Millones de conversaciones privadas, fotos, audios y textos intercambiados a diario en aplicaciones como WhatsApp o Signal podrían ser escaneados automáticamente antes de llegar a su destinatario. Eso es lo que prevé la normativa conocida como «Chat Control», una propuesta legislativa en debate en el Parlamento Europeo que divide a juristas, activistas digitales, gobiernos y organizaciones de derechos humanos en toda la Unión Europea.

La regulación apunta a detectar contenido de explotación sexual infantil (CSAM, por sus siglas en inglés) en las comunicaciones digitales. En su versión vigente, una normativa temporal prorrogada hasta 2028 permite a las plataformas identificar de manera voluntaria ese tipo de material en mensajes privados, imágenes y videos. Pero la propuesta de largo plazo, denominada «Chat Control 2.0», plantea extender esa capacidad de detección también a los servicios con cifrado de extremo a extremo, lo que representa un salto cualitativo de enorme magnitud en términos de vigilancia digital masiva.

Un escudo que también puede convertirse en una red de arrastre

El cifrado de extremo a extremo, tal como funciona hoy en aplicaciones como Signal o WhatsApp, impide que ni siquiera el proveedor del servicio pueda leer los mensajes en tránsito. Es, en términos prácticos, el equivalente digital del secreto postal. Cualquier sistema de detección que pretenda operar sobre mensajes cifrados tendría que actuar antes de que ese escudo se active, es decir, en el dispositivo del usuario, justo antes de que el mensaje sea enviado. Esta técnica se denomina «client-side scanning» y consiste en examinar el contenido mientras aún es legible, antes de que se aplique el cifrado.

Las herramientas técnicas propuestas funcionan transformando cada archivo en una especie de huella digital que se compara con bases de datos de material ilegal ya identificado. Además, utilizan modelos de aprendizaje automático capaces de reconocer contenido nuevo o modificado y analizan los textos en busca de patrones lingüísticos asociados al grooming o acoso sexual a menores.

El fallo humano en la cadena de verificación

En plataformas sin cifrado, cuando un sistema automático detecta una coincidencia, la alerta es enviada a revisores humanos expertos que examinan el material antes de informarlo a las autoridades. Empresas como Google sostienen que este proceso garantiza una verificación responsable. Sin embargo, según señaló el ex eurodiputado alemán Patrick Breyer, jurista y activista por los derechos digitales, es precisamente en esa etapa de verificación donde el sistema comienza a fallar cuando se utiliza a gran escala.

Los empleados encargados de revisar las alertas aplican criterios legales diversos, no siempre logran discernir la intención detrás del contenido y, con frecuencia, confunden situaciones de sexting consensuado entre jóvenes o imágenes enviadas como bromas en chats grupales. En muchos casos, los adolescentes involucrados nunca tuvieron intención de enviar ni recibir material ilegal, simplemente reenviaron un archivo dentro de una conversación diferente.

Breyer no se opone a la detección en sí misma. Su argumento es más preciso: el escaneo debería permitirse solo cuando un tribunal independiente confirme que hay motivos razonables para sospechar de una persona específica, tal como ocurre con una orden judicial para revisar la correspondencia de un ciudadano. Extender ese control a toda la población «por si acaso» representa, en sus términos, un tipo de intervención de naturaleza completamente diferente.

Una regulación que depende de la app que uses

Por el momento, lo que sucede con un mensaje depende enteramente de la aplicación que se use. En servicios sin cifrado, el contenido puede recibir una identificación digital o ser examinado por algoritmos antes o justo después de ser enviado, revisado luego por expertos y comunicado a las autoridades ante una coincidencia confirmada. En servicios con cifrado de extremo a extremo, la legislación europea actual no se aplica de la misma forma y el contenido permanece inaccesible para los proveedores.

Esa asimetría está en el centro del debate parlamentario. Si «Chat Control 2.0» finalmente incluye a los servicios cifrados, la arquitectura de privacidad digital que millones de personas dan por garantizada quedaría radicalmente transformada. La pregunta que el Parlamento Europeo no puede eludir es hasta dónde está dispuesta la sociedad a ceder privacidad en nombre de la seguridad, y si esa cesión puede hacerse sin abrir una puerta que, una vez abierta, sea prácticamente imposible cerrar.

El debate no es solo técnico. Es político, filosófico y tiene implicancias directas para las nuevas generaciones que crecen en un entorno donde la comunicación digital es constitutiva de su identidad. La decisión que tome Europa en los próximos años marcará un precedente global sobre los límites del Estado en las comunicaciones privadas.

Lo que tenés que saber

• La normativa «Chat Control» vigente, prorrogada hasta 2028, permite a las plataformas detectar voluntariamente contenido de abuso sexual infantil en mensajes privados.
• La propuesta «Chat Control 2.0» plantea extender ese escaneo a servicios con cifrado de extremo a extremo, lo que implicaría revisar mensajes en el dispositivo del usuario antes de que sean enviados.
• El ex eurodiputado Patrick Breyer advierte que el sistema falla a gran escala y que el escaneo solo debería habilitarse con orden judicial previa, no de manera masiva e indiscriminada.
• Las herramientas de detección combinan huellas digitales de archivos conocidos, inteligencia artificial para contenido nuevo y análisis de patrones lingüísticos vinculados al grooming.
• La decisión del Parlamento Europeo sobre si incluir o no a los servicios cifrados en la regulación definitiva tendrá impacto global en el futuro de la privacidad digital.