Redes sociales
Cómo detectar deepfakes: 5 claves para evitar engaños con inteligencia artificial
Kaspersky reveló que gran parte de los argentinos no distingue contenidos manipulados con IA. Mirá cómo detectar los fraudes más comunes en redes.
Lo que tenés que saber
- El 68% de los argentinos no reconoce un video falso hecho con IA
- En 2024, las estafas digitales con deepfakes crecieron un 300% en el país
- Celebridades falsas promocionan productos y juegos fraudulentos
- Los movimientos extraños en ojos y labios delatan los deepfakes
- Verificar la fuente del contenido es clave para evitar ser engañado
Los deepfakes avanzan en Argentina: cómo reconocer videos manipulados
El auge de la inteligencia artificial abrió oportunidades inéditas en múltiples industrias, pero también profundizó los desafíos en materia de seguridad digital. Uno de los más peligrosos actualmente es el uso de deepfakes: imágenes, videos y audios falsificados con un alto nivel de realismo, capaces de engañar incluso a los más atentos.

Desinformación digital: Argentina entre los países más vulnerables
Un informe reciente de la empresa de ciberseguridad Kaspersky revela que el 68% de los argentinos no puede identificar un video modificado por inteligencia artificial. Esta cifra posiciona al país como uno de los más expuestos a estafas digitales con este tipo de tecnología en América Latina. En la región, el 69% de los encuestados desconoce qué es un deepfake y el 67% no sabe cómo detectarlo.

Deepfakes, estafas y celebridades falsas: cómo operan los engaños
La estrategia más frecuente de los estafadores digitales consiste en usar la imagen de famosos para dar legitimidad a productos o servicios inexistentes. Influencers y celebridades son replicados por IA en videos o audios que promocionan inversiones falsas o recomiendan productos milagrosos. Una vez ganada la confianza del usuario, lo redirigen a sitios web donde entrega datos sensibles o realiza pagos sin retorno.
Durante 2024, este tipo de maniobras crecieron un 300% en Argentina, según el Panorama de Amenazas de Kaspersky.

Los 5 trucos clave para detectar un deepfake
Frente a esta ola de engaños, los expertos comparten una guía básica pero efectiva para no caer en la trampa:
- Ojos y boca desincronizados: “Parpadeos extraños o labios desincronizados pueden ser señales de alerta”
- Iluminación y sombras poco naturales: si la luz del fondo no coincide con la del rostro, puede tratarse de un montaje.
- Tonos y cortes extraños en el audio: “Tonos robóticos, cortes de audio o locuciones poco naturales suelen ser característicos de audios manipulados”
- Detalles visuales anormales: bordes difusos, cuerpos rígidos o movimientos poco fluidos son comunes en videos falsos.
- Revisá siempre la fuente: “Si el contenido no proviene de un perfil oficial o un medio confiable, es mejor desconfiar”.
Educación
Deepfakes en las aulas: cuando la IA se convierte en una nueva herramienta de violencia de género
Estudiantes varones de los colegios Nacional Buenos Aires y Carlos Pellegrini circularon y comercializaron imágenes de sus compañeras alteradas con inteligencia artificial para mostrarlas desnudas. La justicia interviene ante un vacío legal mientras las comunidades educativas activan protocolos de género y las voces de quienes vienen advirtiendo sobre la violencia digital cobran nueva urgencia.
Las comunidades educativas de dos de los colegios secundarios más prestigiosos de la Argentina atraviesan una crisis sin precedentes. En el Colegio Nacional de Buenos Aires y en la Escuela Superior de Comercio Carlos Pellegrini, ambas dependientes de la Universidad de Buenos Aires (UBA), se confirmó que alumnos varones circularon y comercializaron imágenes de sus compañeras intervenidas con inteligencia artificial (IA) para mostrarlas con sus rostros reales y cuerpos desnudados de manera sintética. El escándalo expone, una vez más, la brecha entre el avance tecnológico y la respuesta del sistema legal y educativo frente a nuevas formas de violencia de género.
Cómo comenzó el escándalo
El caso tomó estado público a fines de junio, cuando alumnas de segundo año del Carlos Pellegrini encontraron un archivo compartido en Google Drive que contenía sus nombres, fotos intervenidas y hasta un precio asignado a cada imagen. Las fotos mostraban los rostros reales de las estudiantes sobre cuerpos generados o «desnudados» mediante aplicaciones de IA, muchas de ellas tomadas sin consentimiento de sus redes sociales. Luego se supo que estudiantes del Nacional Buenos Aires también estaban involucrados y que existían indicios de que el fenómeno se extendía a otras instituciones. La mayor parte de los alumnos señalados cursan segundo año y tienen alrededor de 14 años.
La magnitud del hecho quedó subrayada por el cinismo con que fue respondido dentro de las propias aulas: tras el estallido del escándalo, apareció escrito en un pupitre de una de las instituciones la frase «Ustedes nos pueden delatar, pero no vamos a parar de desnudarlas y venderlas». La frase condensa la naturaleza del problema: no se trata de una travesura tecnológica sino de una práctica sistemática de cosificación, violación de la privacidad y comercialización del cuerpo ajeno.
La Justicia frente a un vacío legal
La fiscal Daniela Dupuy, a cargo de la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI), fue contundente al describir la situación: «Nosotros constantemente estamos recibiendo este tipo de denuncias». Al mismo tiempo, advirtió que la investigación enfrenta un obstáculo central: el ordenamiento jurídico argentino no tipifica con precisión estos delitos. «Debemos impulsar a los legisladores a que de una buena vez lo incorporen en sus legislaciones penales», señaló la funcionaria. Para Dupuy, el delito se consuma cuando una imagen real de una persona es llevada al desnudo mediante IA, porque «afecta el bien jurídico protegido, que es la libertad en el desarrollo de la sexualidad».
En ambas instituciones se activaron los protocolos de violencia de género para contener a las víctimas y regular la convivencia, pero las estudiantes afectadas enfrentaron la situación extrema de tener que compartir aulas con quienes las victimizaron. La ausencia de un marco penal claro convierte a la respuesta institucional en el único muro de contención inmediato, y ese muro es notoriamente insuficiente.
La cultura que lo habilita: el análisis de Laura Sánchez
La voz de Laura Sánchez, madre de Ema Bondaruk (la adolescente que se suicidó tras la difusión no consentida de imágenes de su intimidad), adquirió en este contexto una resonancia particular. Sánchez, quien milita desde entonces por la sanción de legislación específica sobre violencia digital, lo dijo sin rodeos: «Es doloroso y pone a la vista que la violencia digital de género dejó de ser una problemática emergente para convertirse en urgente».
Para Sánchez, el caso del Nacional y del Pellegrini no es un hecho aislado protagonizado por adolescentes fuera de control. Es el síntoma de algo más profundo: «El problema no son sólo los chicos que difundieron, es la cultura que lo habilita». Desde la Guía Ema, el documento pedagógico que lleva el nombre de su hija y está diseñado para abordar la violencia digital en el ámbito escolar, Sánchez propone que las instituciones adopten «un convenio de corresponsabilidad digital firmado por estudiantes, institución y familias», con un trabajo que involucre a toda la comunidad educativa.
Un fenómeno que no para de crecer
La alteración de imágenes reales mediante IA para producir contenido de desnudez no consentida es una modalidad de deepfake que se expande a nivel global. En Argentina, el caso del Nacional y el Pellegrini se suma a una serie de denuncias similares que se acumulan en fiscalías, escuelas y organizaciones de acompañamiento a víctimas de violencia digital. La UFEDyCI ya viene procesando este tipo de planteos de manera recurrente, según confirmó la propia fiscal Dupuy.
El marco normativo vigente en Argentina incluye la Ley Olimpia, aprobada en 2023, que reconoció la violencia digital como modalidad específica de violencia de género. Sin embargo, la tipificación de los deepfakes pornográficos como delito autónomo aún espera tratamiento legislativo en el Congreso Nacional, donde iniciativas como la denominada Ley Belén buscan avanzar en esa dirección. La demora tiene un costo concreto y humano: cada día que transcurre sin legislación específica, las víctimas quedan desprotegidas y los responsables se mueven en un limbo jurídico que facilita la impunidad.
Lo que revelan las aulas del Nacional y el Pellegrini
Que esto haya ocurrido en dos de las escuelas con mayor nivel académico del país no es un dato menor. No porque las instituciones sean las responsables directas, sino porque desmiente el argumento de que la violencia digital es un problema vinculado exclusivamente a la marginalidad o a la falta de educación formal. Ocurre en cualquier entorno donde la cultura patriarcal no sea confrontada explícitamente y donde el cuerpo de las mujeres y adolescentes siga siendo tratado como un bien apropiable, transable y punible.
Las organizaciones especializadas en la materia, entre ellas Faro Digital, Ley Olimpia Argentina y Defensoras Digitales, vienen advirtiendo desde hace tiempo que el abordaje de la violencia digital en las escuelas no puede limitarse a reaccionar ante los casos sino que debe integrar la educación digital con perspectiva de género como contenido curricular obligatorio. La urgencia es hoy más evidente que nunca.
Puntos clave
- Alumnos varones del Nacional Buenos Aires y el Carlos Pellegrini circularon y vendieron imágenes de compañeras «desnudadas» con inteligencia artificial.
- La fiscal Daniela Dupuy confirmó que la UFEDyCI recibe este tipo de denuncias de manera constante y alertó sobre el vacío legal existente.
- Los protocolos de violencia de género se activaron en ambas instituciones, pero las estudiantes debieron seguir compartiendo espacios con los denunciados.
- La Ley Olimpia (2023) reconoce la violencia digital como modalidad de género, pero la tipificación de deepfakes pornográficos aún no tiene legislación específica en Argentina.
- Laura Sánchez, madre de Ema Bondaruk, advirtió que «la violencia digital de género dejó de ser una problemática emergente para convertirse en urgente».
-
Fútbol & Goles!5 díasCinco argentinos en el 11 ideal del Mundial: Messi, el Dibu y la promesa de la votación FIFA
-
Fútbol & Goles!6 díasLa caída de Argentina “tras la estúpida tarjeta roja a Enzo Fernández”: los medios del mundo analizaron la victoria española
-
Fútbol & Goles!5 díasConspiraciones en la final: qué hay detrás de los rumores que inundaron las redes
-
Celebridades2 días“Te comemos el hígado”: el contundente mensaje que eligió Antonela para responder a los anti Argentina
-
Fútbol & Goles!7 díasJimmy Fallon ironizó sobre la foto viral de Messi con Yamal bebé y armó una teoría conspirativa sobre la FIFA
-
Buenos Aires2 díasUn fondo (buitre) alemán demandó a la Provincia de Buenos Aires en Nueva York por el canje de deuda de 2021
-
Fútbol & Goles!4 díasLa final más sombría: las estadísticas convierten a la derrota ante España en el peor partido de la historia de la Scaloneta
-
Goles! ⚽5 díasLa burla se les volvió en contra: españoles quemaron una bandera argentina y el cohete les explotó encima
