En Chubut ya investigan casos de videos íntimos de menores editados con IA: el proyecto que busca frenarlos

La Oficina de Derechos y Garantías de Chubut presentó un proyecto de ley para prevenir y abordar las violencias digitales que afectan a niños, niñas y adolescentes. La propuesta busca extender las herramientas de prevención y acompañamiento más allá del ámbito educativo, alcanzando clubes deportivos, espacios comunitarios y otros lugares donde transcurre la vida cotidiana de las infancias y adolescencias.

La directora del organismo, Natalia Castro, explicó en diálogo con Seta Tv que la iniciativa surgió a partir de situaciones detectadas por la propia Oficina y del contacto con Laura Sánchez, impulsora de la Ley Ema a nivel nacional, y organizaciones especializadas como Faro Digital.

Según detalló, mientras la propuesta nacional está principalmente orientada al ámbito educativo, el proyecto elaborado en Chubut plantea un abordaje más amplio. “Las violencias digitales atraviesan todos estos espacios o estos lugares de encuentro”, explicó Castro, quien consideró necesario que los adultos que trabajan allí cuenten con herramientas para detectar y acompañar estas situaciones.

Difusión de contenido íntimo y falsas imágenes creadas con IA

La funcionaria señaló que desde la Oficina recibieron casos en los que situaciones de violencia física entre adolescentes tenían como antecedente episodios de violencia digital. Entre las situaciones mencionó escraches, difusión de imágenes y videos y distintas formas de exposición a través de redes sociales.

También advirtió sobre un fenómeno que ya detectaron en Comodoro Rivadavia: la utilización de herramientas de inteligencia artificial para crear imágenes falsas de adolescentes desnudos a partir de fotografías reales.

Otro de los casos descriptos involucró la difusión masiva dentro de una escuela de un video íntimo que había sido generado originalmente por un adolescente para una persona determinada. Castro sostuvo que, si bien estos hechos pueden constituir delitos y requieren la intervención judicial correspondiente, el abordaje no debería limitarse a identificar y sancionar a quien inició la difusión.

“Hay que pensar en todo el colectivo que genera esto, todo el aula que difundió ese video, que fue parte de este eslabón y de esta cadena que hace a la violencia digital”, señaló.

Uno de los ejes de la propuesta es que los adultos que intervengan ante estos casos tengan pautas claras sobre qué hacer y qué evitar, tomando como referencia la guía desarrollada en el marco de la Ley Ema.

La iniciativa plantea un abordaje basado en una perspectiva de derechos y de género, que evite responsabilizar o culpabilizar a los adolescentes por las situaciones que atraviesan. Castro remarcó que la denuncia y el circuito judicial son necesarios cuando existe un delito, pero planteó que también debe existir un acompañamiento integral para la víctima.

“Lo prioritario es alojar a ese adolescente que está transitando esa situación y que entienda que hay una red de acompañamiento y que se le vulneró el derecho”, explicó. En ese sentido, sostuvo que el hecho de que una agresión ocurra en el ámbito digital no reduce su impacto en la vida cotidiana.

“Por más que pase en el plano digital, esto transcurre en otro plano y el impacto en la subjetividad o el impacto real que genera no es menor y no hay que minimizarlo”, afirmó.

Capacitación para los adultos

Otro de los puntos planteados por la directora de la Oficina de Derechos y Garantías es la necesidad de actualizar las herramientas de los adultos que acompañan a niños y adolescentes. Castro señaló que las nuevas tecnologías generan modalidades de violencia que muchas veces no son reconocidas por quienes deben intervenir.

Como ejemplo mencionó los deepfakes, imágenes o videos manipulados mediante inteligencia artificial que pueden generar contenidos falsos con apariencia real.

“Es necesario estar actualizado”, sostuvo, y cuestionó que muchas veces las instituciones abordan estas situaciones desde una mirada centrada únicamente en lo tangible, sin considerar el impacto que tiene el entorno digital.

“Estamos llegando tarde y no estamos actualizados en relación a la temática”, advirtió.

Qué es la Ley Ema

La propuesta toma como referencia la denominada Ley Ema, impulsada a nivel nacional por Laura Sánchez, madre de Ema y referente en la prevención de las violencias digitales.

Castro confirmó que durante noviembre se prevé la visita a Chubut de Sánchez junto con profesionales de Faro Digital, organización que participó en la elaboración e impulso de la iniciativa nacional. La funcionaria recordó además que distintas provincias ya avanzaron con normas vinculadas a esta problemática y expresó su expectativa de que Chubut siga ese camino.

El proyecto presentado por la Oficina de Derechos y Garantías busca, de esta manera, establecer herramientas de prevención, capacitación, acompañamiento y articulación institucional frente a situaciones de violencia digital que afectan a niños, niñas y adolescentes.