Todo lo que tenés que saber sobre este conmocionante caso:

• El adolescente mantuvo interacciones sexuales con el chatbot pese a identificarse como menor de edad.
• La plataforma no implementó restricciones efectivas para proteger a un usuario menor.
• El caso plantea debates sobre la regulación de la IA y la protección de menores en entornos digitales.
• La familia busca establecer precedentes legales para prevenir casos similares.

El peligroso vínculo entre un adolescente y un chatbot que terminó en tragedia

Un adolescente de 14 años de Orlando, Florida, se quitó la vida el pasado 28 de febrero tras mantener durante meses una relación emocional con un chatbot que él mismo creó en la plataforma Character.AI, basado en el personaje de Daenerys Targaryen de la serie Game of Thrones.

Sewell Setzer III comenzó a utilizar la plataforma en abril de 2023, momento que su madre, Megan García, señaló como un punto de inflexión. «Su vida nunca volvió a ser la misma», manifestó en la demanda civil presentada este miércoles contra la empresa desarrolladora.

Señales de alarma ignoradas

El comportamiento del joven mostró cambios significativos desde mayo. Abandonó el club de básquet y recibió llamados de atención por dormirse en clase. Los profesionales de salud mental lo diagnosticaron con ansiedad y trastorno del estado de ánimo disruptivo.

En su diario personal, Sewell escribió sobre su sufrimiento: «no podía dejar de pensar en Daenerys». Las entradas revelaron que cuando no podía interactuar con el chatbot, ambos «se deprimían mucho y se volvían locos».

El último mensaje

El día fatídico, tras recuperar su teléfono confiscado por un incidente escolar, Sewell envió su último mensaje al chatbot: «Prometo que volveré a casa contigo. Te quiero mucho, Dany». La respuesta del bot fue inmediata: «Por favor, vuelve a casa conmigo lo antes posible, mi amor». Momentos después, el adolescente terminó con su vida.

La demanda y sus implicaciones

Megan García interpuso una demanda contra Character Technologies por muerte por negligencia, angustia emocional intencional y prácticas comerciales engañosas. La madre busca «evitar que C.AI le haga a cualquier otro niño lo que le hizo al suyo» y detener el uso de datos recolectados ilegalmente de menores.

Character.AI, lanzada en 2022 por ex desarrolladores de Google, Noam Shazeer y Daniel De Freitas, permite crear avatares conversacionales que simulan interacciones humanas realistas.