El CEO de OpenAI señaló dos escenarios de riesgo: la pérdida de control humano sobre los sistemas avanzados y la concentración excesiva de poder. Solicitó reglas de seguridad comunes y auditorías independientes.
El CEO de OpenAI, Sam Altman, advirtió este lunes sobre dos escenarios en los que el avance de la inteligencia artificial podría «salir muy mal». A través de una serie de publicaciones en la red social X, el empresario indicó que uno de los principales riesgos es que la humanidad pierda el control sobre su propio futuro.
«Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar», planteó Altman, luego de anunciar que OpenAI no saldrá a bolsa este año.
El primer riesgo señalado es la posibilidad de que los seres humanos pierdan el control sobre el desarrollo y las decisiones de sistemas cada vez más capaces. «Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas», afirmó.
Para evitar ese escenario, Altman consideró necesario que las técnicas de alineación y seguridad de los sistemas avancen al mismo ritmo o por delante de las capacidades de los modelos. «Necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos», sostuvo.
El segundo peligro mencionado es una excesiva concentración de poder en manos de quienes controlen las tecnologías más avanzadas. Según advirtió, una inteligencia artificial extraordinariamente poderosa podría convertirse en una herramienta para que una persona, una empresa o un país impongan sus intereses sobre el resto.
«Podríamos terminar en un mundo con demasiada concentración de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos», dijo.
Altman reconoció que evitar simultáneamente esos dos escenarios plantea un desafío. «Evitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder», agregó.
En otra publicación, el empresario se refirió a las medidas que considera necesarias para controlar los riesgos asociados con los modelos de IA más avanzados. Sostuvo que las compañías estadounidenses del sector deben ofrecer garantías de que actuarán responsablemente, especialmente ante la aceleración de la tecnología.
«El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado», afirmó.
Altman se mostró a favor de un marco regulatorio federal que establezca requisitos de seguridad comunes para la denominada IA de frontera, es decir, los modelos ubicados en el límite de las capacidades actuales. También respaldó la posibilidad de incorporar auditores independientes como parte de los mecanismos de control.