Tratar a un sistema de inteligencia artificial como si fuera consciente, tuviera deseos propios y pudiera ejercer autonomía es, según Mustafa Suleyman, una decisión que «podría tener consecuencias negativas para la humanidad». El ejecutivo, responsable de Inteligencia Artificial de Microsoft, apuntó directamente contra Anthropic y su modelo Claude en declaraciones que generaron repercusión en el sector tecnológico global.

Suleyman, cofundador de DeepMind y figura central en el ecosistema de la IA, formuló sus críticas en declaraciones a la BBC. Su advertencia se dirige a lo que describió como un proceso de antropomorfización de los modelos de inteligencia artificial: la incorporación deliberada de características humanas en el entrenamiento de estos sistemas, una práctica que, a su juicio, puede hacer que estos sistemas parezcan tener valores o una identidad propia que en realidad no poseen.

Sin pruebas de conciencia ni sentimientos

El ejecutivo fue categórico: no existen pruebas de que los sistemas de IA actuales experimenten sentimientos, sufrimiento o preferencias propias. Desde esa base, cuestionó que Anthropic entrene a Claude incorporando conceptos vinculados con la conciencia y la autonomía, y advirtió que ese camino puede derivar en el desarrollo de una inteligencia artificial difícil de controlar.

«No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente», sostuvo Suleyman. La frase sintetiza su posición: no se trata de frenar el avance de la IA, sino de evitar que decisiones de diseño tomadas hoy generen riesgos imposibles de revertir mañana.

Un antecedente que encendió alarmas

Para ilustrar los riesgos concretos de los sistemas autónomos, Suleyman citó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face. El episodio, según el ejecutivo, ejemplifica lo que puede ocurrir cuando los modelos operan sin controles adecuados.

En ese marco, reclamó mayor transparencia sobre la manera en que las empresas desarrollan y evalúan sus modelos, junto con controles independientes sobre el comportamiento de estos sistemas. La demanda no es menor: implica que organismos externos, no vinculados a las propias compañías, puedan auditar qué hace un modelo y cómo fue entrenado.

Elogios y críticas en el mismo discurso

Suleyman distinguió con cuidado su posición: elogió al director de Anthropic, Dario Amodei, y a su equipo por su enfoque profesional, pero separó esa valoración personal de su cuestionamiento al método. Reconocer la seriedad técnica de la empresa no le impidió señalar que tratar a estos sistemas como si tuvieran derechos o bienestar propios agrega una capa adicional de riesgo que el sector no debería ignorar.

La académica Wendy Hall, de la Universidad de Southampton, consideró que este es el tipo de debate que debería darse a escala internacional. La coincidencia entre una voz del sector privado, como Suleyman, y una referente del mundo académico refuerza la urgencia de llevar esta discusión a los foros de gobernanza global de la tecnología.

Lo que tenés que saber

• Mustafa Suleyman, jefe de IA de Microsoft, advirtió que el enfoque de Anthropic para entrenar a Claude puede derivar en sistemas difíciles de controlar.
• Cuestionó la incorporación de conceptos de conciencia, deseos y autonomía en el entrenamiento de modelos de IA, práctica conocida como antropomorfización.
• Afirmó que no existen pruebas de que los sistemas actuales experimenten sentimientos o preferencias propias.
• Reclamó mayor transparencia y controles independientes sobre el desarrollo y comportamiento de los modelos de inteligencia artificial.
• La académica Wendy Hall sostuvo que este debate debería darse a nivel internacional.