Alerta en Río Negro: quieren que una persona controle siempre lo que decida la IA en el Estado

La inteligencia artificial llegó para quedarse, pero en Río Negro buscan ponerle límites claros. Un proyecto presentado en la Legislatura provincial propone que ninguna decisión que afecte a los ciudadanos sea tomada únicamente por un algoritmo. La iniciativa, impulsada por la legisladora Martina Lacour (La Libertad Avanza), apunta a regular el uso de estas herramientas en todos los organismos públicos.

¿Qué propone exactamente la iniciativa?

El proyecto ingresó formalmente a la Legislatura rionegrina y tiene tres ejes centrales: clasificar los sistemas de IA según su nivel de riesgo, crear un registro provincial de herramientas utilizadas por el Estado y garantizar que siempre haya una persona detrás de las decisiones finales.

En diálogo con el programa Ideas Circulares, Lacour fue contundente: "La idea no es que se frene la tecnología, sino que la podamos aprovechar para mejorar los servicios del Estado con reglas claras, con transparencia y protegiendo los derechos de las personas".

La legisladora remarcó que no es lo mismo usar IA para tareas simples, como corregir un texto, que emplearla para decidir sobre una beca, una protección social o una sanción. "No puede haber ninguna decisión que se tome solamente por lo que diga un algoritmo. Siempre la decisión final la tiene que tener una persona humana", enfatizó.

El caso que encendió las alarmas

Como ejemplo de los riesgos, Lacour mencionó un caso real ocurrido en una empresa tecnológica, donde un sistema de evaluación de productividad terminó en despidos que fueron cuestionados en la justicia. Una situación que, según la legisladora, evidencia la necesidad de controles estrictos.

El proyecto también contempla la creación de un registro provincial de sistemas de IA, donde se detalle qué herramientas usa el Estado, quiénes son los proveedores y cómo se gestionan los datos. "El fin último es garantizar que se protejan los datos personales, la privacidad de las personas", sostuvo.

Además, se busca que los ciudadanos puedan saber cómo se utilizan sus datos y tengan la posibilidad de solicitar su eliminación de ciertas bases cuando corresponda.

Modernización del Estado: el otro desafío

Durante la entrevista, Lacour también se refirió a la modernización del Estado, un proceso que consideró aún pendiente. "Una de las cosas más importantes en cuanto al tema de la modernización es que no te pidan documentación que el mismo Estado genera", explicó.

En ese sentido, planteó la necesidad de avanzar hacia sistemas más integrados, para que los ciudadanos no tengan que ir de organismo en organismo para hacer un trámite.

¿Y ahora qué pasa con el proyecto?

La legisladora confirmó que la iniciativa ya fue presentada y espera que se trate en las comisiones. También reveló que presentó otra propuesta vinculada al funcionamiento interno de la Legislatura, para que los proyectos no queden estancados. "Los proyectos ingresan por secretaría, se derivan a las comisiones, pero quedan ahí y nunca se terminan tratando", cuestionó.