Santa Fe quiere multar a los que fabrican fotos íntimas falsas con IA: hasta la posesión entra en la mira

La provincia de Santa Fe podría sumar un nuevo capítulo a su pelea contra la violencia digital. La diputada provincial Celia Arena, del espacio Hacemos Santa Fe, presentó un proyecto para reformar el régimen contravencional y castigar la creación y difusión de imágenes, audios y videos manipulados con inteligencia artificial que atenten contra la intimidad, la dignidad o la reputación de una persona.

La iniciativa no se limita a los contenidos sexuales. También alcanza a los materiales sintéticos que dañen gravemente el buen nombre de alguien aunque no tengan carga sexual, y prevé sanciones específicas para la producción y circulación de representaciones sexuales con apariencia infantil.

Qué conductas quedarían alcanzadas

El texto apunta a ampliar las respuestas legales frente a los contenidos generados con IA u otras tecnologías de generación sintética. Entre las conductas contempladas aparecen la creación, la manipulación y la difusión no consentida de imágenes, audios y videos que vulneren derechos personales.

Uno de los puntos más novedosos es que también se sancionaría la posesión consciente de ese material ilícito, incluso cuando no esté destinado a la difusión pública. Para el caso de las representaciones sexuales sintéticas con apariencia infantil, el proyecto prevé además castigos para quienes las financien, ofrezcan o comercialicen.

La propuesta suma herramientas de reparación y prevención: los jueces de faltas podrían ordenar el cese inmediato de la difusión y la eliminación de los contenidos de los soportes digitales. También se busca que los responsables deban hacer talleres obligatorios sobre violencia digital y uso ético de la tecnología.

"No estamos ante un simple juego tecnológico, sino ante una nueva forma de violencia digital que puede afectar profundamente la dignidad, la intimidad y la integridad de las personas", sostiene la legisladora en los fundamentos del proyecto.

El antecedente de las leyes Olimpia y Ema

La iniciativa de Arena se apoya en normas que ya ampliaron la protección en territorio santafesino. La Ley Olimpia, a la que la provincia adhirió mediante la ley 14.297, incorporó herramientas para abordar la violencia digital y la difusión no consentida de material íntimo. La Ley Ema, identificada con el número 14.471, fijó medidas específicas para prevenir y abordar estas situaciones en el ámbito educativo.

La Ley Ema lleva el nombre de Ema Bondaruk, la adolescente de 15 años que murió en agosto de 2024 después de que se difundieran imágenes íntimas suyas sin consentimiento en su escuela. Su madre, Laura Sánchez, impulsó acciones para promover herramientas de prevención y acompañamiento frente a este tipo de hechos.

El nuevo proyecto busca cubrir un flanco que la inteligencia artificial volvió más complejo: la posibilidad de fabricar imágenes y videos hiperrealistas de situaciones que nunca ocurrieron. Aunque el contenido sea sintético, su circulación puede dañar la intimidad, la reputación y la integridad de las personas involucradas.

Si avanza en la Legislatura, la provincia incorporaría nuevas herramientas contravencionales para responder a esas conductas y ampliar la protección jurídica frente a distintas formas de violencia digital.

Qué hacer si un chico o una chica es víctima de un deepfake sexual

1. Escuchar y acompañar sin responsabilizar a la víctima. El primer paso es escuchar al niño, niña o adolescente y transmitirle que no tiene la culpa de lo ocurrido. La responsabilidad es de quienes crearon, compartieron o difundieron el contenido. Desde el Ministerio de Capital Humano de la Nación recomiendan acompañar a la víctima y evitar cualquier reacción que pueda aumentar su angustia o hacerla sentir responsable por la circulación de las imágenes.

2. Guardar las pruebas antes de que desaparezcan. Es importante conservar los datos que permitan reconstruir lo ocurrido e identificar dónde circuló el material: capturas de pantalla de las publicaciones y conversaciones, el nombre de usuario o perfil de quienes difundieron el contenido, los enlaces o URL de las publicaciones y la fecha, la plataforma y cualquier otro dato relevante. El Ministerio de Capital Humano aconseja preservar esa información antes de bloquear, enfrentar o reportar al perfil señalado, ya que esas acciones podrían dificultar la investigación. Tampoco recomienda hacerse pasar por la víctima para obtener nuevas pruebas.

3. No descargar ni reenviar las imágenes. Aunque la intención sea denunciar o pedir ayuda, no hay que compartir el contenido en grupos de WhatsApp, redes sociales ni otras plataformas. El Ministerio Público de la provincia de Buenos Aires recomienda no descargar, reenviar ni difundir las imágenes. La prioridad es conservar los datos que permitan localizar el material sin contribuir a que siga circulando.

4. Realizar la denuncia. Las recomendaciones oficiales indican denunciar estos hechos cuando afectan a niños, niñas y adolescentes. En Argentina, las familias pueden recurrir a la Línea 102, servicio de orientación y acompañamiento ante situaciones que afectan los derechos de niños, niñas y adolescentes; a la Línea 137, de asistencia ante situaciones de violencia familiar y sexual; o a la fiscalía más cercana para presentar la denuncia y aportar las pruebas reunidas.