Santa Fe debate quién controla la IA: el plan que pone la lupa sobre las empresas del Estado
¿Quién está detrás de los sistemas de inteligencia artificial que usa el Estado santafesino y dónde terminan los datos de la población? El proyecto que busca ponerlo por escrito.
El diputado provincial Carlos del Frade presentó un proyecto para crear el Observatorio Santafesino de Inteligencia Artificial, Soberanía Tecnológica y Políticas Públicas, un organismo que buscará poner bajo la lupa cómo el Estado provincial usa estas tecnologías y quién está detrás de los sistemas que contrata.
La iniciativa del legislador del Frente Amplio por la Soberanía propone un espacio de carácter público, permanente, interdisciplinario y multisectorial, con actuación en los 19 departamentos de la provincia.
Según el texto, el Observatorio tendrá como misión producir conocimiento, investigación, prospectiva, control ciudadano, asesoramiento y articulación institucional en materia de inteligencia artificial y su vínculo con las políticas públicas.
Qué busca el proyecto
La finalidad declarada es contribuir a una política provincial integral que ponga a la inteligencia artificial al servicio del desarrollo humano, productivo, científico, social y cultural de los santafesinos.
El proyecto fija como marco el respeto por los derechos humanos, la democracia, la igualdad, la defensa de las fuentes de trabajo, la protección de los datos personales, los derechos en entornos digitales reconocidos por la Constitución provincial y el ambiente.
Su actuación integrará dimensiones científicas, tecnológicas, jurídicas, económicas, laborales, educativas, sanitarias, culturales, ambientales, éticas y políticas.
Los objetivos que se fijaron
Entre los objetivos del Observatorio, la iniciativa plantea estudiar de manera sistemática la evolución, adopción e impactos de la inteligencia artificial en el territorio santafesino.
También busca producir conocimiento público para el diseño, implementación y evaluación de políticas públicas vinculadas con la IA, y analizar las oportunidades que ofrecen estos sistemas para mejorar la capacidad estatal y la calidad, accesibilidad y eficacia de los servicios públicos.
Otro punto central es identificar y evaluar los riesgos e impactos sobre los derechos humanos, la igualdad, la privacidad, el trabajo, la educación, la salud, la cultura, el ambiente y las relaciones sociales.
El proyecto pone el foco en un dato sensible: conocer y hacer público quiénes son las empresas proveedoras de los sistemas de inteligencia artificial que utiliza el Estado santafesino, cuál es el origen de sus capitales, cuánto cuestan y dónde se almacenan y procesan los datos de la población.
Un relevamiento público de sistemas
Para cumplir esos objetivos, el Observatorio tendría funciones específicas. Deberá elevar, sistematizar y publicar información sobre el desarrollo y la utilización de sistemas de inteligencia artificial en la provincia.
También deberá confeccionar y mantener actualizado un Relevamiento Público de Sistemas de Inteligencia Artificial del Estado Provincial, en cumplimiento del artículo 29 de la Constitución provincial.
Ese relevamiento incluiría, por cada sistema: organismo usuario, finalidad, empresa proveedora y origen de su capital, monto y modalidad de contratación, tipo de datos que procesa, lugar de almacenamiento y mecanismos de supervisión humana previstos.
Si por ley se creara un registro público de sistemas algorítmicos o de inteligencia artificial, el relevamiento se integraría con él para evitar duplicaciones.
Además, el organismo elaboraría informes, investigaciones, indicadores, diagnósticos y documentos de política pública, y emitiría dictámenes públicos y no vinculantes sobre los sistemas de alto impacto.
Se suman el desarrollo de metodologías para evaluar impactos económicos, laborales, educativos, sanitarios, ambientales, culturales y sobre derechos fundamentales, la elaboración de estudios de prospectiva tecnológica y social, y recomendaciones sobre transparencia, trazabilidad, supervisión humana, protección de datos personales, seguridad, prevención de sesgos y rendición de cuentas.
Consejo asesor y fondo propio
El proyecto también prevé la creación, dentro del Observatorio, de un Consejo Asesor Interdisciplinario y Multisectorial, de carácter consultivo y ad honorem.
Estaría integrado con representación plural y equilibrada de universidades nacionales con asiento en Santa Fe, organismos del sistema científico y tecnológico con sede en la provincia, organizaciones sindicales, cooperativas de trabajo, empresas recuperadas y cooperativas de servicios tecnológicos, pymes, organizaciones sociales y de derechos humanos, municipios y comunas, la Defensoría del Pueblo provincial y organismos públicos con competencias en la materia.
A eso se agrega la propuesta de un Fondo Provincial para el Desarrollo Soberano de la Inteligencia Artificial, destinado a financiar políticas, programas, investigaciones y acciones vinculadas con el desarrollo y la utilización responsable de esta tecnología en Santa Fe.
La mirada de del Frade
Para el legislador, la inteligencia artificial no es solo una novedad tecnológica. "Además de ser una novedad tecnológica la inteligencia artificial es una nueva forma de concentrar poder, información y riqueza", afirmó.
Y agregó: "Como toda transformación de esa magnitud, plantea una pregunta política de fondo: quién decide, para quién y con qué consecuencias para las mayorías".
Del Frade trazó un paralelismo con la historia productiva santafesina: "Conoce esa pregunta desde hace más de un siglo. Desde los tiempos de La Forestal hasta los cierres de plantas de los últimos años, el territorio santafesino fue testigo de lo que ocurre cuando las decisiones sobre su riqueza y sus trabajadores se toman en casas matrices que no conocen ni un metro de suelo santafesino".
Por eso, el propósito del Observatorio, según el diputado, "es que tenga capacidad propia para comprender estas tecnologías, controlar su uso, anticipar sus efectos y orientarlas hacia el bienestar de su pueblo".
