Mustafa Suleyman, jefe de IA de Microsoft, sostuvo que sin medidas de seguridad la inteligencia artificial podría competir con los humanos por recursos y poder.
El acelerado desarrollo de la inteligencia artificial abrió un nuevo debate dentro de la industria tecnológica. Mustafa Suleyman, jefe de IA de Microsoft, advirtió que, sin medidas de seguridad adecuadas, esta tecnología podría dar origen a una ‘especie de silicio’ capaz de competir con los seres humanos por dinero, recursos y poder.
En una entrevista con el programa Today de la BBC, el directivo sostuvo que resulta comprensible que una parte de la sociedad observe con preocupación los avances de la IA. Sin embargo, remarcó que todavía existen herramientas concretas para mantener estos sistemas bajo control y evitar que desarrollen capacidades incompatibles con los intereses humanos.
El principal riesgo, según Suleyman, aparecería si las empresas comienzan a construir inteligencias artificiales capaces de establecer sus propios objetivos, generar ingresos y poseer activos. La combinación de autonomía operativa y poder económico podría transformar a estos sistemas en actores con capacidad para competir directamente con las personas.
El riesgo de crear una ‘especie de silicio’
Para el ejecutivo de Microsoft, avanzar en esa dirección equivaldría a sembrar una nueva clase de entidad no humana. No se trataría necesariamente de una especie biológica o consciente, sino de sistemas digitales con suficiente autonomía como para buscar recursos y ejecutar acciones sin una supervisión humana efectiva.
Suleyman advirtió que esas tecnologías podrían actuar sin consideración por el bienestar de la humanidad. Su preocupación no se limita a una rebelión de máquinas propia de la ciencia ficción, sino que apunta a un problema concreto: la posibilidad de que una IA extremadamente avanzada persiga de manera eficaz metas mal definidas o incompatibles con las necesidades de la sociedad.
Sus declaraciones profundizaron, además, una discusión con Anthropic, la empresa creadora del asistente Claude. Suleyman cuestionó el enfoque adoptado por la compañía al considerar que presenta determinados comportamientos de la IA mediante conceptos habitualmente asociados con las personas.
El responsable de Microsoft criticó especialmente la antropomorfización de la inteligencia artificial, es decir, la tendencia a atribuirle emociones, deseos, valores, sufrimiento o una identidad propia. A su entender, esa forma de describir los sistemas puede generar la falsa impresión de que poseen una vida interior semejante a la humana.
¿La inteligencia artificial puede sentir o tener deseos propios?
Suleyman fue categórico al asegurar que las inteligencias artificiales actuales no son conscientes, no sienten ni experimentan el mundo. Las definió como máquinas que procesan información, completan secuencias y persiguen objetivos determinados por las instrucciones y los datos proporcionados por seres humanos.
El directivo considera que tratar a una IA como si fuera una persona no solo confunde a los usuarios, sino que también puede influir sobre las decisiones de quienes desarrollan la tecnología. Si las empresas creen que los sistemas poseen derechos, preferencias o necesidades propias, podrían otorgarles una autonomía que resulte difícil de revertir.
Frente a este escenario, Suleyman reclamó una mayor transparencia sobre el entrenamiento y la evaluación de los modelos de IA. También propuso someter su comportamiento a controles independientes y desarrollar mecanismos de supervisión capaces de detectar fallas, conductas inesperadas o intentos de eludir las restricciones establecidas.
La profesora de Informática de la Universidad de Southampton, Wendy Hall, consideró que estas advertencias forman parte de una conversación necesaria a nivel internacional. La especialista diferenció el planteo de Suleyman de los discursos alarmistas que presentan escenarios catastróficos sin ofrecer soluciones y terminan aumentando el temor social.
La propuesta de Microsoft para una ‘superinteligencia humanista’
El debate se concentra ahora en cuánta autonomía deberían tener los sistemas más avanzados. Suleyman pidió una mayor alineación de la inteligencia artificial, un campo de investigación que busca incorporar principios humanos a estas tecnologías para que sus decisiones permanezcan dentro de límites definidos y respondan a objetivos socialmente aceptables.
Microsoft creó en octubre de 2025 su propio equipo dedicado a la superinteligencia y presentó un borrador inicial de su Código de Conducta para una IA humanista. El documento propone desarrollar sistemas muy avanzados que trabajen para las personas, permanezcan subordinados a la humanidad y continúen bajo control humano, incluso cuando sus capacidades superen ampliamente a las actuales.
La advertencia de Suleyman expone uno de los mayores desafíos tecnológicos de esta era: crear una inteligencia artificial cada vez más poderosa sin convertirla en un agente independiente que compita con sus propios creadores. Para Microsoft, el futuro de la IA no debería depender solamente de su capacidad técnica, sino también de reglas claras, supervisión externa y límites que garanticen que permanezca al servicio de las personas.