Conectate con El Argentino

Innovación 💡

El jefe de IA de Microsoft advirtió que el enfoque de Anthropic puede volverse incontrolable

Mustafa Suleyman cuestionó que la empresa presente a Claude como si tuviera conciencia, deseos y autonomía. Pidió transparencia y controles independientes sobre los modelos de inteligencia artificial, y alertó que este tipo de entrenamiento suma riesgos que no deberían tomarse a la ligera.

Publicado hace

#

El Argentino Diario-Freno a la Inteligencia Artificial.

Tratar a un sistema de inteligencia artificial como si fuera consciente, tuviera deseos propios y pudiera ejercer autonomía es, según Mustafa Suleyman, una decisión que «podría tener consecuencias negativas para la humanidad». El ejecutivo, responsable de Inteligencia Artificial de Microsoft, apuntó directamente contra Anthropic y su modelo Claude en declaraciones que generaron repercusión en el sector tecnológico global.

Suleyman, cofundador de DeepMind y figura central en el ecosistema de la IA, formuló sus críticas en declaraciones a la BBC. Su advertencia se dirige a lo que describió como un proceso de antropomorfización de los modelos de inteligencia artificial: la incorporación deliberada de características humanas en el entrenamiento de estos sistemas, una práctica que, a su juicio, puede hacer que estos sistemas parezcan tener valores o una identidad propia que en realidad no poseen.

Sin pruebas de conciencia ni sentimientos

El ejecutivo fue categórico: no existen pruebas de que los sistemas de IA actuales experimenten sentimientos, sufrimiento o preferencias propias. Desde esa base, cuestionó que Anthropic entrene a Claude incorporando conceptos vinculados con la conciencia y la autonomía, y advirtió que ese camino puede derivar en el desarrollo de una inteligencia artificial difícil de controlar.

«No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente», sostuvo Suleyman. La frase sintetiza su posición: no se trata de frenar el avance de la IA, sino de evitar que decisiones de diseño tomadas hoy generen riesgos imposibles de revertir mañana.

Un antecedente que encendió alarmas

Para ilustrar los riesgos concretos de los sistemas autónomos, Suleyman citó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face. El episodio, según el ejecutivo, ejemplifica lo que puede ocurrir cuando los modelos operan sin controles adecuados.

En ese marco, reclamó mayor transparencia sobre la manera en que las empresas desarrollan y evalúan sus modelos, junto con controles independientes sobre el comportamiento de estos sistemas. La demanda no es menor: implica que organismos externos, no vinculados a las propias compañías, puedan auditar qué hace un modelo y cómo fue entrenado.

Elogios y críticas en el mismo discurso

Suleyman distinguió con cuidado su posición: elogió al director de Anthropic, Dario Amodei, y a su equipo por su enfoque profesional, pero separó esa valoración personal de su cuestionamiento al método. Reconocer la seriedad técnica de la empresa no le impidió señalar que tratar a estos sistemas como si tuvieran derechos o bienestar propios agrega una capa adicional de riesgo que el sector no debería ignorar.

La académica Wendy Hall, de la Universidad de Southampton, consideró que este es el tipo de debate que debería darse a escala internacional. La coincidencia entre una voz del sector privado, como Suleyman, y una referente del mundo académico refuerza la urgencia de llevar esta discusión a los foros de gobernanza global de la tecnología.

Lo que tenés que saber

  • Mustafa Suleyman, jefe de IA de Microsoft, advirtió que el enfoque de Anthropic para entrenar a Claude puede derivar en sistemas difíciles de controlar.
  • Cuestionó la incorporación de conceptos de conciencia, deseos y autonomía en el entrenamiento de modelos de IA, práctica conocida como antropomorfización.
  • Afirmó que no existen pruebas de que los sistemas actuales experimenten sentimientos o preferencias propias.
  • Reclamó mayor transparencia y controles independientes sobre el desarrollo y comportamiento de los modelos de inteligencia artificial.
  • La académica Wendy Hall sostuvo que este debate debería darse a nivel internacional.

Geopolítica 🌎

Donald Trump denunció una “conspiración enfermiza” contra la tecnología y atacó al CEO de Anthropic

El presidente de Estados Unidos atacó a Darío Amodei, CEO de Anthropic, luego de que el empresario publicara un ensayo pidiendo moderar el ritmo de desarrollo de los modelos más avanzados de inteligencia artificial. Mientras Elon Musk y Sam Altman respaldaron la propuesta, Trump la calificó de amenaza al liderazgo estadounidense y advirtió que «quien gane la carrera de la IA, gana».

Publicado hace

#

El Argentino Diario-Imagen ilustrativa de Donald Trump generada con IA para esta nota.
Trump vs. la IA responsable: "conspiración enfermiza" contra quienes piden frenar la carrera tecnológica.

Una propuesta para desacelerar el desarrollo de la inteligencia artificial, publicada por el CEO de Anthropic con el objetivo de ganar tiempo para controlar los riesgos de los modelos más potentes, desató una respuesta furiosa del presidente de Estados Unidos, Donald Trump. El mandatario acudió a su red social Truth Social para denunciar la existencia de una «conspiración enfermiza» contra la tecnología y los centros de datos, y apuntó directamente contra Darío Amodei como el rostro de esa supuesta confabulación.

Amodei, al frente de Anthropic, una de las empresas de IA más influyentes del mundo, publicó el sábado un ensayo en el que no propone detener el desarrollo de la inteligencia artificial sino ralentizar el aumento de las capacidades de los modelos más avanzados, para que las medidas de seguridad avancen en paralelo. Su planteo incluye que los sistemas de mayor potencia sean evaluados por especialistas externos y que las compañías acrediten mecanismos de protección suficientes antes de lanzar nuevos modelos al público.

La geopolítica de la IA, según Trump

Trump no tardó en encuadrar el debate en clave de competencia con China. «El único que se alegra de ello es China», sostuvo, convirtiendo la discusión sobre seguridad tecnológica en otro episodio de la narrativa de confrontación geopolítica que caracteriza su presidencia. El mandatario fue más allá y aseguró que «la única salvaguarda que necesita la IA es un presidente fuerte e inteligente», reclamando para su administración un poder penal y regulatorio sobre las compañías del sector. También acusó a Amodei de intentar mostrarse como un «angelito perfecto», en una descalificación personal que desplazó el debate técnico hacia el terreno del ataque político.

La postura de Trump expresa la lógica del aceleracionismo tecnológico que domina en los círculos más influyentes del gobierno estadounidense: la carrera contra China no admite pausas, y cualquier llamado a la cautela se convierte, en ese esquema, en una traición al interés nacional. El problema es que esa lógica no distingue entre desacelerar y capitular, una confusión que los propios referentes de la industria rechazaron públicamente.

Musk y Altman respaldan la propuesta de Amodei

La reacción del ecosistema tecnológico fue significativa. Elon Musk, CEO de Tesla y SpaceX, respaldó el ensayo de Amodei con un mensaje directo: «Dario tiene razón». Sam Altman, al frente de OpenAI, también coincidió con la necesidad de establecer un ritmo de desarrollo ordenado en la denominada «frontera tecnológica», aunque señaló que su compañía trabaja en mecanismos propios para que evaluadores independientes puedan analizar los sistemas más avanzados.

El respaldo no proviene solo de los líderes del sector. En julio, 1.386 empleados de empresas de IA de frontera habían firmado el documento «Pacing the Frontier», en el que reclamaron herramientas técnicas y mecanismos de gobernanza que permitan ralentizar el desarrollo si en algún momento resulta necesario. La base de la propuesta, lejos de ser una iniciativa aislada, refleja una preocupación extendida dentro de la propia industria sobre los riesgos del llamado «alineamiento», es decir, la capacidad de garantizar que los objetivos de una IA permanezcan compatibles con las intenciones humanas.

China, entre la alarma interna y el rechazo a las advertencias externas

Paradójicamente, la advertencia geopolítica de Trump encontró un eco inesperado en Pekín, aunque con signos invertidos. El ministro de Seguridad del Estado chino, Chen Yixin, advirtió que el uso de la IA por parte de potencias extranjeras podría afectar la seguridad política, institucional e ideológica de China, y describió a la inteligencia artificial como «el principal campo de batalla de la competencia tecnológica mundial». Chen señaló que los deepfakes, los bots y otros contenidos generados con IA pueden utilizarse para difundir rumores políticos, manipular información y profundizar las divisiones sociales.

Al mismo tiempo, el vocero del Ministerio de Relaciones Exteriores chino, Guo Jiakun, rechazó las advertencias de Amodei sobre limitar el avance tecnológico chino y sostuvo que el alarmismo y la confrontación perjudican la gobernanza global de la IA. Pekín defendió una IA «abierta» e «inclusiva» y llamó a los países a trabajar en conjunto para establecer reglas comunes.

El cuadro que emerge es el de un debate global sobre el futuro de la tecnología más poderosa de la historia, donde las voces que piden cautela son atacadas por los mismos gobiernos que deberían garantizar que la carrera no se convierta en una catástrofe. Trump, al responder con descalificaciones personales y retórica de guerra fría, no refutó los argumentos técnicos de Amodei; simplemente los ignoró.

Lo que tenés que saber

  • Donald Trump denunció una «conspiración enfermiza» contra la tecnología y atacó al CEO de Anthropic, Darío Amodei, tras la publicación de un ensayo que pide moderar el ritmo de desarrollo de la IA.
  • Amodei no propone detener la IA, sino ralentizar el aumento de capacidades de los modelos más avanzados para que las medidas de seguridad avancen en paralelo y los sistemas sean evaluados por especialistas externos.
  • Elon Musk y Sam Altman respaldaron la propuesta; 1.386 empleados de empresas de IA de frontera habían firmado previamente el documento «Pacing the Frontier» con un planteo similar.
  • Trump encuadró el debate en clave de competencia con China y sostuvo que «la única salvaguarda que necesita la IA es un presidente fuerte e inteligente».
  • China, desde el ministerio de Seguridad del Estado, también describió a la IA como «el principal campo de batalla de la competencia tecnológica mundial», aunque rechazó las advertencias sobre limitar el avance tecnológico chino.
Seguir leyendo
El Argentino

El Argentino
El Argentino

Las más leídas

Descubre más desde El Argentino Diario

Suscríbete ahora para seguir leyendo y obtener acceso al archivo completo.

Seguir leyendo