La teoría de la transición se basa en la idea de que, a medida que los modelos de IA se vuelvan más potentes, aprenderán a mejorarse a sí mismos, un concepto conocido como "automejora recursiva" o RSI. Según esta creencia, la tecnología existente generaría versiones más inteligentes que eventualmente alcanzarían una superinteligencia fuera del control humano. Altman y Brockman coincidieron en que es fundamental evitar que ese traspaso de poder ocurra, ya sea de forma accidental o intencional.
Altman explicó que él y Brockman solo discrepan en cómo lograr mejor el objetivo de mantener a las personas al mando y qué desafíos esperar en el camino, pero caracterizó la discusión como un debate entre dos personas que comparten una visión general. "La cuestión de cómo evitar realmente que ocurra [la transición] —cómo garantizar que, dadas todas las presiones y lo que otras compañías puedan intentar hacer, aseguremos que las personas mantengan el control del futuro de manera profunda— es algo en lo que ambos podemos estar de acuerdo", afirmó.
Brockman agregó que, a medida que los modelos mejoran, existe una responsabilidad creciente en materia de alineación, seguridad y protección, lo que podría requerir cambios en la forma en que se hacen las cosas actualmente. La advertencia de los directivos de OpenAI se produce en un momento en que Silicon Valley debate intensamente sobre el futuro de la IA y el papel de los humanos en su desarrollo.
CAPTURA DE IA
Esta noticia fue extraída, transcrita y resumida en tiempo real por nuestros modelos de inteligencia artificial tras su emisión en medios de comunicación.
Fuente original: TechCrunch - Inteligencia Artificial (EE.UU.) (Tecnología e IA (EE.UU. / Silicon Valley))