Segundo año de una escuela de gestión estatal de la ciudad de Buenos Aires (CABA): un estudiante levanta la mano en un taller sobre violencia digital y cuenta que un compañero editó con inteligencia artificial (IA) la foto de la hermana de otro chico. Le agregó un “cuerpo desnudo” y la viralizó. Un hecho similar ocurre en séptimo grado de un colegio privado y religioso de Villa Luro pero con la imagen de la mamá de un compañero. Cerca, en el noroeste de la ciudad, el conflicto estalla en un quinto año. Esta vez, tanto víctimas como victimarios son alumnos de la misma institución. Los retratos de las chicas “sin ropa” circulan en las redes sociales. Docentes y directivos pasan aula por aula para dar con el responsable, pero nadie asume la culpa. El hecho termina con una denuncia judicial.

Los deepfakes con contenido sexual de mujeres menores de edad aumentaron significativamente desde el año pasado. Se trata de fotos, videos o audios que parecen reales, pero fueron manipulados con IA. Daniela Dupuy, fiscal de la Unidad Especializada en Delitos y Contravenciones Informáticas (UFEDyCI) de CABA, lo confirma en conversación con crisis: “A partir del 2024 empezó a ingresar una importante cantidad de casos de imágenes sexuales de niños, niñas y adolescentes creadas con inteligencia artificial, ya sea en su totalidad o con el cuerpo ‘desnudo’ y un rostro verdadero”. En muchas situaciones, de acuerdo a la fiscal, son los propios compañeros de escuela los que distribuyen fotos íntimas –reales y falsas– de sus pares mujeres. Muchos otros no llegan a ser denunciados y se trabajan al interior de las instituciones teniendo en cuenta la magnitud del daño.

pintó, profe
 

Tercer año celebró un cumpleaños en una quinta con pileta. Como suele suceder en estos tiempos hubo registro de la jornada: fotos de chicos y chicas en malla. En septiembre del año pasado, un estudiante tomó una imagen, en la que aparecían su novia y otra amiga, y editó sus cuerpos para que se vieran sin ropa, según el relato de un educador de la institución. Enseguida replicó el procedimiento con contenido de las redes de otras compañeras de la escuela, un establecimiento privado y religioso de la comuna 1 de CABA, y las envió en modo “bombita” (para que se eliminaran enseguida) a un grupo de WhatsApp donde había otros compañeros.

El pacto se rompió por una pelea entre los varones. Rápidamente, uno le contó a una de las afectadas que su novio había circulado imágenes de ella desnuda. La chica salió llorando del aula. Como no había visto el material, no terminaba de entender qué había de ella ahí, pero se sintió expuesta. “Yo nunca me saqué una foto en ropa interior o sin ropa”, insistía. A los 20 minutos de ese estallido, ya se había enterado buena parte del alumnado. “Encontraron una aplicación de IA que no sabemos cuál es ni de dónde la sacaron. Yo asumo que al estar tanto con el celular les habrá aparecido alguna publicidad y que en esta picardía de pensar que no pasa nada habrán investigado”, arriesga Matías, docente cuyo nombre fue alterado para esta nota.

El estudiante admitió la alteración de las fotos: “No sé por qué lo hice, pintó”. Las chicas preguntaban cuándo lo iban a sancionar. Finalmente fue suspendido por tres días. Los otros integrantes del grupo de WhatsApp se excusaban con que la mayoría de las imágenes eran de chicas de afuera del colegio y que ellos las habían visto pero no editado. “La situación generó mucha ruptura del tiempo pedagógico de aula. Durante varios días se dieron episodios de llanto y discusión. Hubo muchos insultos al compañero o frases como ‘qué asco nos das’. También, pedidos de expulsión. Si bien fue totalmente repudiable lo que hizo, nosotros somos responsables de todos los estudiantes. Tenemos que ayudarlos a entrar en razón. No echarlos y sacarnos el problema de encima”, reflexiona Matías.

Las familias implicadas fueron citadas por la escuela. La madre del chico que alteró las imágenes se enojó con él porque no era la primera vez que lo suspendían y aseguró que iban a hablar seriamente en su casa. La familia de una de las chicas no se presentó. La otra estaba “angustiada y preocupada” por su hija. Buscaron dialogar y contener. “Muchas veces, la primera reacción de los adultos es sacarles los teléfonos y las computadoras a sus hijos o hijas, incluso cuando ellas fueron las víctimas. También nos encontramos con cierta revictimización por parte de los padres como preguntarles por qué accedieron a sacarse determinada foto. O bien familias que minimizan lo que sucede: ‘son cosas que hacen los chicos’”, cuenta Carolina Bertoni, titular del Área de Asistencia a Niñas, Niños y Adolescentes (ANNAVI) del Ministerio Público Fiscal (MPF) de CABA.

El colegio no acudió a organismos estatales de niñez y adolescencia. Se encontraban en un momento de recambio en el equipo de conducción. “Resolvimos como pudimos. Quizás si hubiéramos tenido una estructura más firme podríamos haber intervenido de una manera más organizada”, dice el docente y añade que comenzaron a trabajar estos temas en talleres de Educación Sexual Integral (ESI) para segundo año.

Sin embargo, Matías plantea que no hay capacitación docente de ESI digital en la institución. Los deepfakes son los casos más extremos de un conjunto variopinto de situaciones con las que lidian los docentes en esta época: desde burlas a través de stickers de WhatsApp hasta comentarios crueles en las redes sociales y ciberacoso mediante cuentas anónimas. “Es muy difícil tomar decisiones con respecto a las redes porque nos exceden, pero nosotros entendemos que estos casos también son asunto de injerencia de la escuela y requieren de normas de convivencia”, concluye Matías.

ante la ley
 

En 2024 un adolescente de 15 años de una escuela pública enclavada en uno de los barrios más pobres de CABA tenía interés en una compañera de clase. Se lo hizo saber a través de un amigo. La chica “no dio bola”: estaba de novia y “no registraba” a su pretendiente. Al poco tiempo, él colocó su rostro sobre la foto del cuerpo desnudo de una mujer con IA. La imagen se viralizó en todo el colegio, pero pocos compañeros salieron en defensa de la adolescente, conforme al relato de un área estatal de niñez que acompañó el caso. Cuando la familia de la estudiante se enteró, acudió a la institución para orientarse sobre cómo accionar. Los directivos sugirieron no realizar la denuncia para trabajar lo sucedido al interior del establecimiento, a pesar de que los hechos habían ocurrido “afuera”. Según lo que la familia le relató al organismo interviniente, no solo nunca se trabajó sino que el hostigamiento escaló hasta llegar a amenazas sexuales contra la adolescente y otra compañera. Hoy, las jóvenes se encuentran en un “estado de angustia, alerta e hipervigilancia permanente”, a lo que se suma el rechazo de la imagen corporal propia en una de ellas y una tendencia hacia el aislamiento en la otra.

A principios de 2025, el equipo de conducción de la escuela cambió y la familia realizó la denuncia por amenazas y hostigamiento agravado. La Justicia dictó medidas de prohibición de acercamiento y contacto. Hoy se desconoce si el adolescente que generó el contenido se encuentra en la Argentina o fuera del país. “Hay muchísimos casos que no se denuncian. Este sí porque terminó con amenazas, si no la chica probablemente no le hubiera contado a sus padres sobre esta situación, porque suele generar bastante vergüenza”, señalan desde el equipo técnico que trabajó el caso.

La CABA publicó en diciembre un protocolo escolar ante situaciones de violencia digital. Se contempla tanto el diálogo con las partes involucradas como instancias de trabajo y reflexión grupal, informar lo sucedido a la supervisión escolar, dar aviso al Consejo de los Derechos de Niños, Niñas y Adolescentes (CDNNyA) cuando haya una situación de vulneración de derechos y asesorar a las familias en los canales de comunicación de la UFEDyCI. “La UFEDyCI podría decir que menores de edad y creaciones ficticias equivalen a archivar el caso. Pero no. Trabajamos fuertemente junto a un equipo de psicólogas. Conversamos con los directivos del colegio, con los padres, con los autores y con las víctimas, con el objetivo de concientizar acerca del efecto grave que genera este actuar”, narra la fiscal Dupuy.

divina TV führer
 

Eran las tres de la tarde, la hora en la que muchos estudiantes guardaban sus útiles en la mochila para irse a casa. Cuando salieron, se encontraron con un móvil de televisión en la puerta del colegio, una institución privada y religiosa de San Martín, provincia de Buenos Aires. Algunos comenzaron a hacer muecas y a saludar a la cámara detrás de la protagonista de la entrevista: Florencia, la mamá de una alumna. La nota era sobre un caso de deepfake y comercialización de imágenes que sufrió su propia hija por parte de un compañero de 15 años.

No fue la única. En un link de Discord, una plataforma de mensajería instantánea y chat de voz, había una carpeta con fotos reales de más de veinte adolescentes de entre 13 y 17 años, con el nombre “colegialas”, al que tenían acceso 8000 personas. Quien las subió, ofrecía imágenes de ellas “sin ropa” al que las pagara por al menos 10 mil pesos. Ese contenido era generado con IA. En agosto del año pasado, las estudiantes tenían cada vez más sospechas de lo que ocurría. Un amigo de las chicas se hizo pasar por comprador y dio con los datos del autor, lo que incluía su nombre, CBU y foto.

“Lo primero que hicieron las autoridades escolares fue hablar con él, que dijo que le habían robado el celular. Su familia sostuvo lo mismo y nunca se comunicaron con nosotros. Pero cuando todo esto explotó, casualmente el propietario de la carpeta borró las imágenes de las chicas. En el colegio dijeron que no se hablara más del tema, que ellas no subieran más nada y que eliminaran todas sus fotos. Mi hija me lo contó cuando vio que no había respuestas de la escuela”, comenta a crisis Florencia.

Otras compañeras no querían hablar con sus padres: tenían miedo de que las juzgaran por haber subido fotos en malla a las redes. Cuando todos se enteraron, ocho familias avanzaron con la denuncia por producción y comercialización de representaciones de menores de 18 años dedicados a actividades sexuales. La fiscalía interviniente ordenó el retiro de dispositivos electrónicos en el domicilio del acusado para que fueran peritados. Si bien por su edad no era punible, pretendía esclarecer la responsabilidad de sus padres y de los adultos que consumían los contenidos.

Por su derecho a estudiar y hasta que un juez no lo declarara culpable, los directivos planteaban que no podían apartar de la institución al varón que editó las imágenes. El alumno estaba bajo el cuidado de un preceptor ya que otros compañeros lo quisieron golpear varias veces. El asunto escaló cuando las familias se enteraron que iría al viaje de estudios a Mendoza junto a las compañeras damnificadas. Entonces, decidieron acudir a los diarios y a la televisión. “Recurrir a los medios fue la herramienta que yo tuve para defender a mi hija y hacerlo visible”, sintetiza Florencia, quien también buscó asesoramiento en la organización “Mamá en línea”.

Finalmente la justicia dispuso una restricción de acercamiento del joven hacia las víctimas fuera de la escuela. “No había forma de tener una perimetral a tres cuadras y tener al chico adentro, entonces el colegio resolvió muy rápido darle el pase. Nosotros simplemente queríamos que se dejaran de cruzar”, sintetiza Igor, padre de otra de las jóvenes damnificadas. Algunas de las chicas, hoy, continúan atravesando problemas de autoestima y dificultades a la hora de sacarse una foto y subirla a las redes, según cuentan sus familias.

La causa continúa siendo investigada. Florencia explica que uno de los problemas que dificulta el peritaje del canal de Discord es que tienen que habilitarlo desde California, porque la empresa tiene su sede en San Francisco, Estados Unidos, y eso puede tardar dos años. María Julia Giorgelli, abogada especializada en protección de datos personales de la Defensoría del Pueblo de CABA, resalta el conflicto de que las empresas tecnológicas, radicadas en el extranjero, pongan las reglas del juego: “En Argentina, hoy en día las grandes plataformas cuentan con representación legal local y para algunos casos ponen a disposición portales especiales para los miembros de las fuerzas del orden que soliciten información sobre las cuentas. No obstante, iniciar un proceso judicial contra una plataforma extranjera sigue implicando costos significativos, además del sometimiento a un proceso burocrático entre otras barreras como las culturales. Como contrapartida, no suelen acatar decisiones de autoridades administrativas”.

el vacío
 

Giorgelli resalta que no hay previstas figuras del Código Penal que castiguen específicamente los deepfakes y que no se puede forzar su aplicación porque “es violatorio del principio de legalidad”. En algunos casos, cuando las víctimas son menores de 18 años, se acude al artículo 128, que penaliza la tenencia, distribución y comercialización de material sexual infantil.

El proyecto “Ley Belén”, presentado por la diputada Mónica Macha para modificar artículos del Código Penal e incluir nuevas expresiones de la violencia digital, contempla la difusión no consentida de material íntimo con una fórmula amplia, que incorpora la criminalización de quien "elabore" esas imágenes. Ana Correa, abogada especialista en violencia de género en entornos digitales, remarca la necesidad de crear nuevos tipos penales, pero también mecanismos administrativos y medidas cautelares para frenar la circulación de esta clase de contenido: “La punición no siempre resuelve el problema, porque la respuesta penal llega tarde, cuando el daño se viralizó”. Con respecto al Código contravencional de la CABA, la abogada indica que el artículo 74 sobre “difusión no autorizada de imágenes o grabaciones íntimas” podría contemplarlo, aunque no refiere específicamente a la alteración de contenido con IA.

Un gran avance que permite comprender a estos hechos como una forma más de violencia de género fue la Ley Olimpia, que incorporó la modalidad “digital” a la Ley 26.485 de Protección Integral de las mujeres. La normativa abarca, entre muchas otras, las conductas “que impliquen la obtención, reproducción y difusión, sin consentimiento de material digital real o editado, íntimo o de desnudez”. “Este cambio permite pedir algunas cosas: medidas cautelares, la baja del contenido, acción preventiva de daños, que se libren oficios a todas las plataformas para que no se pueda difundir una foto, que no aparezca en los resultados de Google determinada información, que el agresor tenga que entregar ciertos dispositivos, que se constate a través de peritos que se eliminó determinado material. Permite, en suma, pensar en el rol de las plataformas más allá de la lógica víctima-victimario”, detalla Giorgelli.

Bertoni considera que hacer la denuncia es importante, aunque los autores de las imágenes sean adolescentes y haya un vacío legal: “Es decirle a la víctima: ‘sí, te pasó algo que puede ser un delito o una contravención’. Eso también tiene efectos en el adolescente que circuló las fotos. A veces las escuelas recomiendan no denunciar porque son alumnos, pero termina en situaciones más graves. Con la denuncia se da intervención a los organismos de protección de derechos. El proceso tiene un efecto reparador más allá del resultado jurídico”.

Lo cierto es que, en la práctica, tal como demuestran los casos relatados, lo que se abre es un un frustrante laberinto burocrático que incluye a instituciones educativas perplejas, a la Justicia, áreas gubernamentales especialistas en niñez y más tarde a pedidos infructuosos a las plataformas digitales con sede en otros países que habitualmente no responden a los pedidos judiciales. Todo, por ahora, redunda en impotencia.

confianza quebrada
 

—Se quebró la amistad, éramos todos amigos de muchos años y con esto ahora no confiamos más en ellos. Es feo porque nos lastimaron y nadie decía nada. Uno cree que por ser amigos nunca te van a hacer nada, eso es lo que más duele y da bronca.

Quien habla es una adolescente de 15 años. Dos compañeros de su clase le sacaban fotos desde hacía un año a escondidas a ella y a otras cuatro compañeras tanto dentro como fuera del colegio, en reuniones sociales, para después alterarlas con IA y circularlas entre amigos del curso en Telegram. También produjeron videos donde se veía sus cuerpos completamente “desnudos”. Iban juntos a la escuela, una institución privada del sur de CABA, desde salita de tres. Fue precisamente uno de ellos el que confesó lo que hacían por el vínculo que tenían. “Al principio no lo podía creer hasta que vi el material. Tardé en hablar porque me daba miedo y vergüenza, pero no aguantaba más, me hacía mal”, dijo una de las jóvenes.

Las familias realizaron la denuncia en la UFEDyCI bajo el paraguas del artículo 128 del Código Penal. Finalmente se archivó el caso por la edad de los acusados. Según relata un equipo técnico que asistió psicológicamente a las adolescentes, al principio, el equipo directivo del colegio no tomó acción directa sobre los varones implicados. Tampoco le contó a los docentes del curso lo sucedido. El problema es que había trabajos prácticos grupales que involucraban a quienes produjeron las fotos y a las chicas afectadas, lo que generaba un mayor malestar. Fueron ellas las que pidieron que los profesores y profesoras tuvieran conocimiento del conflicto para evitar estos cruces. Al final, se decidió la continuidad virtual de los estudiantes.

En 2024 hubo otros casos que trascendieron las aulas y fueron noticia. En agosto, en un club de General Roca, Río Negro, un grupo de adolescentes de 14 y 15 años fueron denunciados por alterar fotos de sus compañeras para crear contenido sexual. Quienes compartían institución educativa con ellas terminaron con prohibición de acercamiento. En octubre, en Resistencia, Chaco, un grupo de alumnas denunció ante las autoridades de una escuela privada y religiosa que sus propios compañeros de clase manipularon sus imágenes con IA y las vendieron por WhatsApp y Telegram. En Córdoba, un estudiante de un colegio preuniversitario creaba fotos sexuales mezclando caras de sus compañeras con el cuerpo de otras mujeres en videos descargados de páginas pornográficas. Como las imágenes llevaban el nombre y apellido de las víctimas, empezaron a recibir solicitudes de seguimiento en Instagram de hombres de entre 40 y 50 años, según informó Clarín. El acusado de 18 años fue imputado por el delito de "lesiones graves" calificadas en el contexto de violencia de género. Se trata del primer caso de este tipo en ser elevado a juicio “por hechos de lesiones psicológicas graves". El acusado podría enfrentar una condena de entre 20 y 30 años.
María Laura García, coordinadora de ANNAVI, insiste con que los casos de deepfakes perturban las rutinas escolares: “Las escuelas no tienen casi ninguna herramienta para abordar estos conflictos, que por momentos entran en una lógica judicial de denunciantes y denunciados, y suelen esperar que instituciones de afuera les traiga una solución”.