Alteraban fotos de sus compañeras con IA y las vendían: el efecto en los colegios que nadie sabe cómo frenar

Un grupo de alumnos de la Escuela Modelo de Lomas de Zamora usó inteligencia artificial para desnudar a sus compañeras y después vendió esas imágenes. El caso encendió las alarmas en las escuelas secundarias: ¿qué se hace y cómo se acompaña a las víctimas de los deepfakes? Profesionales del derecho y de la educación tecnológica marcaron los pasos a seguir y las deudas que todavía tienen las instituciones.

Desde Bienestar Digital señalaron que cada distrito tiene un área de protección para seguir estos casos, aunque las escuelas siguen sin tener claro el camino. Desde Kaleidos, en cambio, pidieron repensar el fenómeno desde la Educación Sexual Integral (ESI) y reforzar el consentimiento y el respeto dentro de los grupos escolares, adentro y afuera de las pantallas.

Qué hacen las defensorías y las organizaciones

La Defensoría del Pueblo de la Provincia de Buenos Aires interviene con acompañamiento, asesoramiento jurídico y presentaciones administrativas y judiciales, incluso a través de figuras como el amicus curiae ("amigo del tribunal"). Su directora de Políticas de Igualdad, María Alejandra López, contó que reciben denuncias de violencia de género, entre ellas las digitales.

La prevención la trabajan desde hace más de ocho años con el taller Cortá a Tiempo, que dictan en escuelas y entidades deportivas para chicos de entre 15 y 21 años. La meta, según López, es que puedan "comprender el origen de estas formas de violencia machista y sus consecuencias".

Ya pasaron por el taller más de 35.000 adolescentes bonaerenses. La propuesta es "pedagógica, participativa y lúdica" y, por la demanda, llegó a darse en teatros. En los encuentros abordan el origen y el desarrollo de las violencias, estrategias de prevención, la legislación vigente (Ley Olimpia) y los proyectos en tratamiento en la provincia para proteger a los adolescentes (Ley Ema).

Kaleidos, que trabaja por los derechos de niños, niñas y adolescentes con talleres en escuelas, organizaciones y equipos de trabajo, puso el foco en el daño. Una de sus coordinadoras, Romina Rodríguez, dijo que crear estas imágenes "vulnera la intimidad y la dignidad" de las víctimas porque, aunque "sean falsas, el daño es real".

Rodríguez insistió con la ESI para abrir "espacios de reflexión sobre el consentimiento, la intimidad, el respeto, los vínculos y las formas de relacionarnos", tanto dentro como fuera de las pantallas. "Es fundamental no limitar la conversación al uso de la tecnología, sino cuestionar los mandatos, revisar las prácticas grupales y construir vínculos basados en el consentimiento, el respeto y la responsabilidad", subrayó.

Las herramientas legales y el acompañamiento: qué hay y qué falta

La ley Olimpia permite adoptar medidas cautelares frente a algunas formas de violencia digital. Pero López aclaró que "estas medidas no implican por sí mismas una sanción penal". "Para que exista, la conducta debe encuadrarse en un delito previsto por la legislación vigente", detalló la abogada, y contrastó con figuras ya tipificadas como delictivas, como la pornografía infantil o el grooming. En ese marco, señaló que sigue en tratamiento el proyecto de ley Ema, que propone "sanciones para la difusión de imágenes íntimas sin consentimiento".

A la hora de acompañar a una víctima, escuelas y padres tienen protocolos y lineamientos provinciales, pero en algunos casos son "muy escuetos o prácticamente inexistentes", según Lucía Fainboim, especialista en crianza y miembro de Bienestar Digital.

Estos hechos ocurren fuera de las instituciones, pero "repercuten en las dinámicas escolares" y son muy pocas las que tienen claro el paso a paso, advirtió. "Quienes trabajamos con escuelas intentamos construir estos lineamientos respecto de las primeras 48 horas, que son las más importantes. Las instituciones suelen actuar con buena intención, pero en la mayoría de los casos igualmente revictimizan a la víctima", sintetizó.

Por eso pidió protocolos claros donde los colegios "se sientan respaldados" y puedan sostener en el mediano y largo plazo el trabajo con la víctima, el victimario y los testigos.