Neuquén debate cómo frenar la manipulación con IA en campañas: el detalle que complica todo

La comisión de Asuntos Constitucionales y Justicia (A) de la Legislatura de Neuquén inició el tratamiento de un proyecto de ley para regular el uso de inteligencia artificial (IA) y sistemas automatizados en las campañas políticas provinciales. Durante la reunión, que presidió el diputado Ernesto Novoa (Comunidad), los legisladores acercaron aportes y propuestas para enriquecer la iniciativa.

El proyecto, impulsado por el diputado Gerardo Gutiérrez (MPN), busca garantizar la veracidad de las propuestas que reciben los ciudadanos durante una campaña electoral y evitar que la manipulación de imágenes, voces o mensajes genere confusión al momento de votar.

Gutiérrez explicó que uno de los ejes centrales es que los partidos declaren ante la Justicia Electoral qué herramientas de IA utilizarán, y que los contenidos elaborados con esa tecnología lleven una indicación visible de su origen. Además, la iniciativa apunta a generar un canal de diálogo entre el Poder Ejecutivo provincial, la Justicia Electoral y las plataformas digitales para establecer un marco regulatorio frente al mal uso de estas herramientas. En ese marco, mencionó casos de 'deepfakes' difundidos durante campañas y remarcó la dificultad de revertir sus efectos una vez que se viralizan.

Posturas y reparos

La diputada Verónica Lichter (PRO-NCN) coincidió en la preocupación por el impacto de la IA, pero advirtió sobre las dificultades de regular una tecnología que evoluciona rápidamente. Puso como ejemplo las medidas adoptadas recientemente en Europa para identificar contenidos generados con IA y señaló que esas herramientas ya encuentran formas de sortear esos mecanismos. Como alternativa, propuso que los partidos asuman compromisos para garantizar campañas transparentes.

Claudio Domínguez (MPN) diferenció una eventual modificación de la ley electoral de una regulación más general. En el primer caso, sostuvo que la autoridad de aplicación debería ser la Justicia Electoral. También planteó la necesidad de compatibilizar la propuesta con la libertad de expresión prevista en la Constitución y se pronunció a favor de concentrar la regulación en las prácticas destinadas a generar información falsa o desacreditar personas.

Domínguez advirtió que gran parte de esos contenidos no circula por las cuentas oficiales de partidos o candidatos, sino a través de perfiles falsos. Por eso, propuso ampliar el abordaje para incluir cuentas no identificadas y otras herramientas digitales utilizadas para difundir información falsa, tanto durante las campañas como fuera de los períodos electorales.

La diputada Brenda Buchiniz (Cumplir) acompañó la necesidad de avanzar en una regulación y consideró pertinente incorporar al régimen electoral la obligación de etiquetar los contenidos generados mediante IA. Sin embargo, observó que la normativa no alcanzará a prácticas que deliberadamente se desarrollen por fuera de la ley, como las realizadas desde perfiles falsos, y marcó una falencia del proyecto: no contempla sanciones. Además, propuso identificar los contenidos financiados con pauta oficial para que la ciudadanía pueda saber cuándo hay financiamiento público detrás de su difusión.

Desde PTS-FIT-U, el diputado César Parra sugirió ampliar la discusión hacia la comunicación digital para incluir también el uso de bots y otros mecanismos que inciden en la circulación y visibilidad de mensajes en las redes. Destacó la trazabilidad como una herramienta para establecer quién genera información falsa y coincidió en la necesidad de incorporar sanciones al proyecto.

El tema se mantendrá bajo análisis de la comisión y se propuso avanzar hacia un texto consensuado para luego solicitar opinión a otros organismos.