La IA ya puede falsificar a un chico desnudo: el proyecto que busca frenarlo en Entre Ríos

La diputada provincial Gabriela Lena, de Juntos por Entre Ríos (JxER), presentó en la Cámara de Diputados un proyecto de ley para prevenir y abordar la violencia sexual digital contra niñas, niños y adolescentes cuando de por medio hay inteligencia artificial. La iniciativa ya ingresó al recinto y busca ponerle marco legal a un fenómeno que crece al ritmo de la tecnología.

El texto apunta a crear mecanismos de protección frente a la creación, manipulación y difusión de imágenes o videos de contenido sexual generados o alterados con herramientas tecnológicas.

Por qué el proyecto puso el foco en la IA

La preocupación que motorizó la propuesta es concreta: los sistemas de inteligencia artificial son capaces de producir representaciones falsas de personas menores de edad. Esas imágenes después pueden terminar usadas para hostigar, intimidar, amenazar o extorsionar a las víctimas.

De acuerdo con los fundamentos del proyecto, el objetivo es proteger la dignidad, la intimidad, la identidad, la imagen personal y la integridad psicofísica de chicas y chicos. También garantizar el ejercicio pleno de sus derechos frente a modalidades de violencia que antes no existían.

Qué contempla la norma

La iniciativa abarca la creación, alteración, utilización o difusión de imágenes, videos y otras representaciones digitales de desnudez o contenido sexual elaboradas mediante IA.

Pero el alcance no se queda solo en la circulación de material falsificado. También comprende el uso de esas representaciones como mecanismo de presión, humillación, intimidación o amenaza contra las personas afectadas.

Uno de los puntos centrales es la intervención de los organismos provinciales que trabajan en educación y en la protección de los derechos de la infancia. En ese marco, el proyecto les asigna funciones al Consejo General de Educación (CGE) y al Consejo Provincial del Niño, el Adolescente y la Familia (Copnaf), cada uno dentro de sus competencias, según publicó APF.

El texto establece además que los establecimientos educativos deberán contar con pautas institucionales claras para recibir y canalizar de manera confidencial las situaciones que se denuncien.

También propone garantizar orientación y acompañamiento a las personas afectadas, evitando su exposición pública y cualquier procedimiento que pueda generar nuevas vulneraciones de derechos.

Prevención en las aulas y respaldo a las víctimas

La propuesta incluye acciones de concientización para estudiantes, docentes y familias. El objetivo es que puedan identificar prácticas de manipulación digital y reconocer los riesgos que trae el uso indebido de la inteligencia artificial.

Entre los temas que deberán abordarse aparecen las consecuencias de crear, publicar, reenviar o utilizar representaciones sexuales falsas con fines de hostigamiento, intimidación o extorsión.

Otro eje central es impedir que las víctimas queden señaladas por la circulación de contenidos digitales que se elaboraron o modificaron sin su consentimiento. La propuesta lo dice de forma expresa: ninguna niña, niño o adolescente podrá ser culpabilizado por la creación, manipulación o difusión de esas representaciones.

En la misma línea, busca evitar prácticas que profundicen el daño durante los procedimientos de asistencia y protección. En particular, dispone que no podrá exigirse la exhibición, reproducción o remisión reiterada del material como condición para acceder a orientación, acompañamiento o medidas de resguardo.

Con estas herramientas, el proyecto de Lena busca incorporar mecanismos de prevención y actuación institucional frente a una forma de violencia que plantea desafíos nuevos para las familias, las escuelas y los organismos que protegen los derechos de la infancia.

La iniciativa deberá atravesar el correspondiente tratamiento legislativo antes de convertirse en ley.