Sam Altman, director ejecutivo de OpenAI, admitió públicamente que su organización no tiene capacidad técnica ni operativa para monitorear la forma en que el Departamento de Defensa de los Estados Unidos emplea sus modelos de inteligencia artificial. Esta declaración tuvo lugar tras una serie de acuerdos que integraron la tecnología de la empresa en la infraestructura del Pentágono.
La confesión surge en un contexto de creciente presión de los investigadores y legisladores que advierten un deslizamiento hacia sistemas de ataque totalmente autónomos. La compañía permite colaboraciones con el sector de defensa en proyecto de ciberseguridad, cuando a principios de 2024 prohibían el desarrollo de armas.
Donald Trump exigió intervenir en la sucesión de Irán: «Tengo que participar en el nombramiento»
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
«Incluso si ponemos salvaguardas en el software, no hay forma de que sepamos qué sucede una vez que el modelo se implementa en servidores gubernamentales clasificados«, sostuvo Altman.
El fin de la neutralidad y avance hacia las armas autónomas
Fuentes vinculadas a la industria de defensa en Washington confirmaron que la IA ya se utiliza para el análisis de inteligencia y la identificación de objetivos en escenarios de simulación. Según los expertos, la preocupación radica en que estos sistemas puede derivar en la denominadas «armas autónomas asesinas».
Un reporte de National Security Commission on Artificial Intelligence señala que el retraso en la adopción de la IA pone a Estados Unidos en una desventaja estratégica frente a otras potencias. «Estamos en un territorio donde la tecnología supera nuestra capacidad de gobernanza», mencionaron asesores técnicos.
La infraestructura de OpenAI, originalmente creada para la asistencia creativa, forma parte de la arquitectura de defensa nacional. Sin embargo, no cuenta con los protocolos de auditoría que suelen acompañar a los contratos tradicionales de proveedores de armas.
La presión legislativa
En el congreso de los Estados Unidos, varios legisladores exigen marcos regulatorios que obliguen a las empresas de IA a mantener una «llave de apagado». La respuesta de OpenAI priorizó la colaboración con el Estado para evitar los escrúpulos étnicos ocupen un espacio.
Claude, la IA de Anthropic, supera a ChatGPT y se convierte en la app más descargada del iPhone
Ex empleados y especialistas sostienen que la empresa cedió ante la presión gubernamental y los incentivos económicos, dejando de lado el beneficio común.
Por su parte, el Departamento de Defensa, aseguró que ninguna decisión letal será tomada exclusivamente por una máquina. No obstante, la velocidad de los ataques modernos y la complejidad de los datos procesados por OpenaAI hacen que la supervisión humana sea cada vez más simbólica.
El presupuestos actual del Pentágono para la integración de la inteligencia artificial y sistemas autónomos en el año fiscal 2025 asciende a 143.000 millones de dólares para investigación, desarrollo, prueba y evaluación.