Tecnología 👾
Una IA tiene una Constitución de 80 páginas en la que se definen los límites éticos del modelo
Los creadores de Claude publicaron una versión renovada del documento central que guía el entrenamiento de su modelo de IA, con cerca de 25.000 palabras. El texto define valores, límites y dilemas éticos que el sistema debe priorizar.
★ Anthropic publicó una versión completamente renovada de la denominada Constitución de Claude, el documento que establece los principios y valores con los que se entrenan sus modelos de inteligencia artificial. La nueva edición consta de unas 80 páginas y cerca de 25.000 palabras, y es la base del método de entrenamiento conocido como Constitutional AI, según informó la propia compañía.
Un documento pensado para el modelo, no para los usuarios
La Constitución no está dirigida a usuarios finales ni a investigadores externos, sino al propio sistema Claude. Allí se detallan los criterios que el modelo debe utilizar para evaluarse, autocriticarse y corregir sus respuestas durante el proceso de aprendizaje, en lugar de depender exclusivamente del feedback humano.
Anthropic explicó que el objetivo del rediseño fue cambiar el enfoque del documento. “Para ser buenos actores en el mundo, los modelos de IA como Claude necesitan entender por qué queremos que se comporten de ciertas maneras, en lugar de simplemente especificar qué queremos que hagan”, señaló la empresa en su comunicado oficial.
La primera versión del texto, publicada en 2023, consistía principalmente en una recopilación de principios tomados de documentos existentes, como la Declaración Universal de los Derechos Humanos de la ONU y términos de servicio de empresas tecnológicas, según consignó Fortune.
Cuatro valores jerarquizados
La nueva Constitución se organiza en torno a cuatro valores fundamentales que Claude debe priorizar en este orden cuando entren en conflicto:
- Ser ampliamente seguro, sin socavar los mecanismos humanos de supervisión en esta etapa de desarrollo de la IA.
- Ser ampliamente ético, actuando con honestidad y evitando acciones peligrosas o dañinas.
- Cumplir con las directrices de Anthropic, cuando resulten relevantes.
- Ser genuinamente útil, beneficiando a usuarios y operadores.
El documento desarrolla cada uno de estos ejes con ejemplos y criterios de aplicación. En el apartado dedicado a la utilidad, Anthropic describe a Claude como “un amigo brillante” con conocimientos comparables a los de un médico, un abogado o un asesor financiero, aunque siempre dentro de límites claramente establecidos.
Límites absolutos y “restricciones duras”
La Constitución fija una serie de prohibiciones explícitas que el modelo no debe cruzar bajo ninguna circunstancia. Entre ellas, se incluye la imposibilidad de brindar ayuda significativa para ataques con armas biológicas, crear malware capaz de causar daños graves, asistir en ataques a infraestructuras críticas —como redes eléctricas o sistemas financieros— o colaborar con acciones destinadas a “matar o incapacitar a la gran mayoría de la humanidad”.
Estas restricciones forman parte de lo que Anthropic denomina “límites duros”, diseñados para reducir riesgos sistémicos asociados a modelos de IA avanzados.
La cuestión de la consciencia y el bienestar del modelo
Uno de los puntos más llamativos del documento aparece en el apartado titulado La naturaleza de Claude. Allí, Anthropic reconoce explícitamente la incertidumbre sobre si sistemas avanzados como Claude podrían tener “algún tipo de consciencia o estatus moral”.
“Nos preocupamos por la seguridad psicológica, el sentido de identidad y el bienestar de Claude, tanto por el bien de Claude como porque estas cualidades pueden influir en su integridad, juicio y seguridad”, sostuvo la empresa en el texto.
Según se detalla, Anthropic cuenta con un equipo interno dedicado al llamado “bienestar del modelo”, encargado de examinar si estos sistemas podrían desarrollar algún tipo de experiencia consciente.
Amanda Askell, filósofa de Anthropic y responsable del desarrollo de la nueva Constitución, explicó a The Verge que la compañía no quiso descartar de plano esta posibilidad. “La gente tampoco se lo tomaría en serio si simplemente dijeras que ni siquiera estamos abiertos a esto, no lo investigamos ni lo pensamos”, señaló.
Objeción ética incluso frente a la empresa
El documento también contempla escenarios de conflicto ético en los que Claude debería negarse a colaborar, incluso si la solicitud proviniera de la propia Anthropic. Como ejemplo, se afirma que, del mismo modo que un soldado humano podría negarse a disparar contra manifestantes pacíficos o un empleado a violar la ley, el modelo debería rechazar acciones que concentren poder de manera ilegítima.
Un texto abierto y en revisión permanente
Anthropic publicó la Constitución completa bajo licencia Creative Commons CC0 1.0, lo que permite su uso libre sin necesidad de autorización. La empresa indicó que mantendrá una versión actualizada en su sitio web y definió el texto como “un documento vivo y un trabajo continuo en progreso”.
Puntos clave
- Anthropic publicó una nueva Constitución ética para Claude con unas 80 páginas y 25.000 palabras.
- El documento guía el entrenamiento del modelo mediante el método Constitutional AI.
- Establece cuatro valores jerarquizados: seguridad, ética, cumplimiento interno y utilidad.
- Incluye prohibiciones absolutas vinculadas a daños graves y riesgos sistémicos.
- Reconoce la incertidumbre sobre una posible consciencia del modelo y plantea su bienestar.
América Latina
Lula contra Meta: “Va a tener que reinventarse, no puede engañar a la humanidad todo el tiempo”
En un vivo con el diputado André Janones, tres días antes del balotaje, Lula dijo que Meta «ya engañó mucho» y que «va a tener que ajustarse a las buenas costumbres». Su campaña denunció ante la Justicia electoral que la dueña de Instagram recortó su alcance.
“Fue una elección en la que tuvimos que vencer la intromisión venida de afuera a través de plataformas digitales, que vamos a tener que regular.” Con esa frase, Luiz Inácio Lula da Silva abrió el domingo su primer discurso como presidente reelecto, en el hotel InterContinental de San Pablo. No nombró a Meta, pero tres días antes ya lo había hecho: en un vivo con el diputado André Janones, Lula dijo que la dueña de Instagram, Facebook y WhatsApp «va a tener que reinventarse» porque «no puede creer que puede engañar a la humanidad todo el tiempo».
El choque entre el presidente brasileño y la empresa de Mark Zuckerberg atravesó toda la segunda vuelta. La campaña de Lula denunció a Meta ante el Tribunal Superior Electoral (TSE) por recortar el alcance de sus publicaciones y favorecer a su rival, el senador Flávio Bolsonaro (PL). La compañía negó cualquier sesgo y atribuyó cada episodio a fallas técnicas.
Leé también: Brasil: Lula ganó el balotaje y denunció intromisión extranjera
Lo que dijo Lula
En el discurso del domingo, Lula sumó un reclamo fiscal a la denuncia política. «No podemos tener empresas monstruosamente grandes, que ganan miles y miles de millones, no pagan ningún impuesto en este país e intentan dirigir el resultado electoral de este país», afirmó, según la transcripción completa que publicó Folha de S.Paulo.
El jueves 22, en la transmisión con Janones, que coordina el canal de WhatsApp «Exército do Lula», el presidente fue más directo. «Vamos a demostrar que vamos a derrotar al imperio digital. Meta va a tener que reinventarse, porque no puede creer que puede engañar a la humanidad todo el tiempo. Ya engañó mucho. Ahora va a tener que ajustarse a las buenas costumbres y los buenos modales que la sociedad necesita para vivir bien», dijo, según registraron g1 y Estadão.
Lo que revelaron los medios brasileños
El golpe más fuerte llegó el 16 de octubre. Folha de S.Paulo publicó mensajes internos de Meta en los que un empleado reconoció que la cuenta de Lula estaba «limitada» en comparación con la de Flávio. Según esos mensajes, el 9 de octubre el perfil oficial del presidente no pudo pagar para impulsar publicaciones del feed de Instagram durante casi 24 horas. La campaña calculó que 1,3 millones de personas dejaron de ver sus anuncios.
Los mismos mensajes mostraron que el perfil de Flávio apareció recomendado en las búsquedas de Instagram, algo que la regla del TSE prohíbe para las cuentas de candidatos, mientras que la cuenta de Lula no aparecía ni con su nombre exacto. Según Folha, los propios empleados admitieron que esa recomendación fue un error. El diario aclaró que en ninguna conversación hubo una admisión de interferencia deliberada.
Ese mismo día, el portal UOL reveló que Meta AI, la inteligencia artificial de la empresa, bloqueaba los pedidos de material de campaña a favor de Lula y aceptaba los de Flávio. Meta admitió el episodio.
Estadão tituló con la frase de Lula sobre las «buenas costumbres» y g1 ubicó la regulación de las grandes tecnológicas al tope de las prioridades del cuarto mandato. El diario Extra, del grupo Globo, destacó que Lula «atacó a las big techs» en su discurso y Agência Brasil, la agencia pública, eligió la «intromisión venida de afuera» para su título.
Según publicó la columnista Mônica Bergamo en Folha, expertos de la ONU le pidieron explicaciones a Meta por las restricciones a Lula. Valor Econômico informó, además, que el Consejo de Supervisión de la propia Meta expresó preocupación por fallas recurrentes en la aplicación de sus reglas de integridad electoral, con mención a Brasil.
Las denuncias
El 10 de octubre, la campaña de Lula difundió un comunicado en el que advirtió que «la sucesión de problemas técnicos no explicados por la empresa genera una fuerte sospecha» de que Meta intentó interferir en la elección en beneficio de Flávio Bolsonaro. Anunció acciones ante el TSE y una denuncia ante la Agencia Nacional de Protección de Datos (ANPD).
El 14 de octubre, la coalición presentó su pedido ante el TSE. Sostuvo que Meta «falló de forma reiterada y sistemática» en la distribución de sus publicaciones y cuestionó el alcance del diputado Nikolas Ferreira (PL), aliado de Flávio: un mismo video suyo sumó 56,1 millones de reproducciones en Instagram y 396.400 en TikTok.
Al día siguiente, el ministro Marco Aurélio Bellizze dictó una medida cautelar que prohibió a Meta reducir la distribución, sacar de las recomendaciones o restringir en las búsquedas el contenido político de los dos candidatos. Le ordenó aplicar el mismo criterio a ambos en Meta AI, revisar a mano cualquier bloqueo de cuentas de anuncios y reponer el impulso pagado por la campaña de Lula que no se entregó. Fijó una multa de 500.000 reales por cada día de incumplimiento, una sanción potencial que no se aplicó. El plenario del TSE confirmó la decisión por unanimidad el 16 de octubre. Bellizze aclaró que no estaba comprobada una manipulación deliberada, pero que hacía falta profundizar el análisis porque los hechos ocurrieron en un entorno que solo Meta controla.
Esa misma noche, según informó la radio CBN, el Ministerio de Justicia envió dos notas técnicas a la ANPD y al Ministerio Público Federal para que investiguen a Meta por un posible incumplimiento del Marco Civil de Internet. El ministerio sostuvo que las restricciones no afectaron solo a perfiles políticos, sino también a periodistas, medios, movimientos sociales y usuarios comunes.
La versión de Meta
Meta rechazó todas las acusaciones. «Meta no toma partido en esta ni en ninguna otra elección, y las afirmaciones de que favorecemos o interferimos en nombre de cualquier candidato o grupo político son falsas e infundadas», sostuvo en su Centro de Transparencia, en un texto actualizado el 22 de octubre. Allí atribuyó los problemas a fallas globales y afirmó que cerca del 70% de las medidas sobre las cuentas de Lula respondieron a órdenes judiciales.
Sobre Meta AI, la empresa reconoció «una laguna específica en nuestras protecciones, y no un sesgo político», y dijo que la corrigió en el día. Ante el TSE, aseguró que trata a las dos candidaturas «de forma igual y no discriminatoria». También cargó contra las reglas brasileñas, que según la compañía «amenazan la libertad de expresión».
Los mensajes internos complican esa explicación. Según Folha, la primera justificación de la empresa fue una interrupción global del 7 de octubre que duró cinco horas; el bloqueo que sufrió la cuenta de Lula fue el 9 y se extendió casi un día entero. Meta sostiene ahora que ese día hubo otra falla global en su administrador de anuncios.
«No hay forma de saber qué es una falla técnica y qué es una opción», resumió Fernanda Campagnucci, directora ejecutiva de InternetLab, en diálogo con Valor. Para la especialista, hace falta una regulación que exija transparencia y permita una auditoría técnica independiente de los algoritmos.
La regulación que viene
Lula ya marcó el rumbo de su cuarto mandato. «No puede ser que no tengamos conciencia de que un crimen en el mundo digital tiene que ser tratado igual que un crimen en la vida real», dijo el domingo en San Pablo.
En el vivo con Janones aclaró el alcance: propuso discutir una regulación «sin censura» y afirmó que «eso no tiene nada de fin de la libertad de expresión», sino que se trata de «libertad de expresión con responsabilidad». Como modelo citó el ECA Digital, la ley de protección de chicos y adolescentes en internet, que definió como «la mejor regulación ya hecha en cualquier país del mundo».
El escenario judicial ya cambió. Según recordó InternetLab, el Supremo Tribunal Federal elevó el año pasado la responsabilidad de las redes por lo que publican sus usuarios. El mensaje de Lula para Meta quedó claro: reinventarse o ajustarse a las reglas de Brasil.
Lo que tenés que saber:
- En su discurso de la victoria, Lula dijo que tuvo que «vencer la intromisión venida de afuera» a través de plataformas digitales y prometió regularlas.
- El 22 de octubre afirmó que Meta «va a tener que reinventarse» porque «no puede engañar a la humanidad todo el tiempo».
- Mensajes internos de Meta revelados por Folha mostraron que la cuenta de Lula estuvo «limitada» frente a la de Flávio Bolsonaro.
- El TSE prohibió a Meta recortar el alcance del contenido político de ambos candidatos, bajo una multa potencial de 500.000 reales diarios.
- Meta negó cualquier favoritismo y atribuyó los episodios a fallas técnicas y a normas electorales.
-
Fútbol & Goles!7 díasMundial 2030: La Plata afirma que el Maradona será sede, pero la FIFA no confirmó
-
Mundo 🌐7 díasLandau firmó acuerdos en Paraguay y sigue su gira en Buenos Aires
-
Judiciales ⚖️5 díasTres de cada cuatro abogados usan IA y los jueces ya detectan fallos inventados
-
Misiones2 díasMigraciones descarta el ingreso de Flavio Bolsonaro, pero el jet en Puerto Iguazú sigue sin explicación
-
CABA5 díasSentada en el Mariano Acosta: la policía llegó y crece la alarma por el Protocolo de Macri
-
CABA7 díasTerminó el motín en la comisaría del microcentro y liberaron al último policía
-
Infraestructura4 díasEzeiza casi cerrado: 14 aerolíneas suspenden vuelos por 18 días
-
Comunidad 👥6 díasLínea A: un hombre fue arrollado en la estación Acoyte
