La inteligencia artificial ya tiene poder suficiente para desencadenar hechos que cuesten mil millones de vidas. La advertencia no salió de un activista antitecnología ni de una novela de ciencia ficción, sino de uno de los hombres que construyeron la industria informática moderna. Cuando el propio establishment tecnológico habla de muertes masivas, el debate sobre la IA dejó de ser una discusión de laboratorio para convertirse en un problema político global.

El magnate y cofundador de Microsoft, Bill Gates, lo dijo en el programa de televisión «Meet the Press», de la cadena estadounidense NBC, en una entrevista con la periodista Kristen Welker que salió al aire el domingo. «La IA es, sin duda, lo suficientemente poderosa como para desencadenar sucesos que causen mil millones de muertes», afirmó. Y agregó que, «aunque resulta muy difícil alcanzar una certeza absoluta, nunca existió un arma tan poderosa como la combinación de individuos malintencionados que utilizan las herramientas de IA más avanzadas».

El arma al alcance de pequeños grupos

Gates explicó que, en la actualidad, «pequeños grupos equipados con IA pueden llevar a cabo acciones que antes estaban al alcance exclusivo de las grandes potencias», por lo que «es la combinación de intenciones maliciosas e IA lo que representa una amenaza significativa». El riesgo que describe no es el de una máquina que se rebela, sino el de una tecnología que pone capacidades de destrucción estatal en manos de cualquiera.

En ese sentido, el empresario mencionó los ciberataques y el bioterrorismo como los usos que un sistema de monitoreo serio debería prevenir, y descartó que el llamado «botón de apagado» de los modelos alcance para evitar que la tecnología sea manipulada con fines dañinos. «Si los gobiernos no implementan salvaguardas adecuadas, nos enfrentaremos a graves consecuencias negativas precisamente debido a la falta de protecciones», advirtió.

Trump y la lógica de la carrera sin frenos

Las palabras de Gates apuntaron de lleno contra el enfoque de Donald Trump. A principios de este mes, el presidente estadounidense rechazó los pedidos para que el gobierno federal impusiera restricciones a las empresas que desarrollan modelos de IA y escribió en su cuenta de Truth Social: «¡QUIEN GANE EN IA, GANA!». Para la Casa Blanca, la respuesta a un riesgo que los propios desarrolladores describen como catastrófico es acelerar.

Gates eligió un tono conciliador con el mandatario. «Lo que él (Trump) dijo es legítimo, pero creo que, tras escucharme a mí y a otros (y al darse cuenta de que esto no nos coloca en desventaja en lo que él percibe como una competencia entre naciones), se alcanzará un consenso», sostuvo. Consultado sobre qué mensaje le daría al presidente, respondió que no le pediría frenar la innovación, sino establecer estándares de supervisión y monitoreo para los modelos más avanzados, lo que según su visión implicaría un costo menor para la industria y no una desaceleración drástica.

La entrevista se conoció pocos días después de que Trump recibiera en la Casa Blanca al presidente chino, Xi Jinping, en una cumbre donde la IA ocupó un lugar central junto al comercio, los minerales de tierras raras y los semiconductores. Un día antes de la emisión del programa, la Casa Blanca anunció la creación de un «diálogo sobre superinteligencia» entre ambos países. La contradicción salta a la vista: Washington acepta hablar de IA con su principal rival geopolítico, pero se niega a ponerle reglas a sus propias empresas.

Más difícil que la Guerra Fría

Gates advirtió que alcanzar un acuerdo internacional sobre un marco regulatorio global para la IA podría resultar más difícil que las negociaciones de la Guerra Fría para limitar las armas nucleares, sobre todo si disminuye la cooperación con los aliados. Para reforzar su planteo, apeló a la historia reciente de su país: «Desde la Segunda Guerra Mundial hasta la actualidad, Estados Unidos puede sentirse muy orgulloso de cómo abordó los desafíos globales: lo hicimos de manera constructiva, colaborando con amigos y aliados (basta pensar en la seguridad aérea, la protección de la capa de ozono o las armas nucleares) y actuando siempre con rectitud, sin tratar de explotar nuestras fortalezas singulares en beneficio exclusivo propio».

«En el caso de la IA, tendremos que volver a este concepto: oigan, toda la humanidad está en el mismo barco», lanzó. La apelación a un Estados Unidos desinteresado y cooperativo es, como mínimo, una lectura benévola de la historia, difícil de sostener desde los países que padecieron sus intervenciones y condicionamientos. Aun así, el diagnóstico de fondo choca de frente con la doctrina de la actual administración republicana, que concibe la tecnología como un campo de batalla y no como un bien común.

El fin del mito de la autorregulación

El cofundador de Microsoft fue tajante respecto del rol de las empresas: «Nadie cree que la autorregulación sea suficiente». Por eso reclamó una legislación que haga obligatorias las salvaguardas y el monitoreo, que exija a las compañías supervisar de cerca sus modelos más avanzados y mantener registros detallados de su actividad, y que involucre a las fuerzas de seguridad y a la dirigencia política en la definición de esos controles.

Su voz se suma a la de los líderes de Anthropic y OpenAI, que también reclaman intervención estatal. «Vamos a desacelerar tanto como sea necesario para asegurarnos de que cada nueva tecnología de IA que lancemos sea realmente segura», sostuvo Dario Amodei, director ejecutivo de Anthropic, con quien Trump confirmó que se reuniría el mismo domingo por la noche. La paradoja es elocuente: los dueños de la tecnología piden reglas, mientras el poder político que debería imponerlas prefiere mirar hacia otro lado.

No es la primera vez que Gates alerta sobre los efectos de la IA sin control humano: tiempo atrás ya había advertido que la tecnología podía convertirse en la mayor fuerza igualadora o en la peor fuente de injusticia. Que ese mensaje provenga de uno de los hombres más ricos del planeta, fundador de una empresa que es protagonista central del negocio de la inteligencia artificial, no le quita peso a la advertencia, pero sí obliga a una pregunta incómoda. Si ni siquiera quienes se benefician del negocio confían en que el mercado se ordene solo, la discusión ya no es si regular, sino quién pone las reglas y en beneficio de quién.

Lo que tenés que saber:

• Bill Gates afirmó en el programa «Meet the Press» de la NBC que la IA es lo suficientemente poderosa como para desencadenar sucesos que causen mil millones de muertes.
• Según Gates, nunca existió un arma tan poderosa como la combinación de personas malintencionadas y las herramientas de IA más avanzadas.
• Donald Trump rechazó imponer restricciones federales a las empresas de IA y sostuvo en Truth Social que «quien gane en IA, gana».
• Gates advirtió que un acuerdo global para regular la IA podría ser más difícil que las negociaciones nucleares de la Guerra Fría.
• El empresario reclamó leyes que hagan obligatorios las salvaguardas y el monitoreo, y afirmó que la autorregulación de las empresas no alcanza.