Alerta en Salta: un especialista advierte que el proyecto de IA del Gobierno podría violar la Constitución

El Gobierno nacional anunció la creación de un “gemelo digital social”, una herramienta de inteligencia artificial que promete analizar, predecir y orientar políticas públicas. Pero el abogado salteño Nahuel Sebastián Sánchez lanzó una advertencia: el proyecto podría chocar de frente con derechos constitucionales y generar un peligroso control social.

¿Qué es el gemelo digital social?

El concepto de “gemelo digital” nació en la industria y las ciencias exactas. Como explica Sánchez, “es una réplica virtual de un objeto físico que permite realizar simulaciones sin poner en riesgo el modelo real”. Se usa en motores de aviones, procesos industriales o modelos urbanos para prever impactos en el tránsito o el consumo energético. Pero trasladar esa lógica a las sociedades humanas es, según el especialista, altamente problemático.

“Las personas no se comportan como átomos. El Estado puede tener muchísimos datos, pero no dispone de información en vivo y segundo a segundo sobre la conducta de la población”, sostuvo Sánchez. Los registros estatales son históricos y fragmentados: censos, seguridad social, educación, salud, catastro, organismos tributarios. Sirven para estadísticas, pero no para modelos predictivos precisos. “El riesgo técnico es que el algoritmo termine simulando escenarios del pasado y no del presente real”, indicó.

Datos sensibles en la mira

El especialista enumeró las bases de datos que ya posee el Estado: registros de identidad y biometría, información patrimonial e inmobiliaria, historial laboral y previsional, datos financieros y crediticios, registros educativos, historias clínicas, vacunación, programas sociales, consumos de servicios públicos. El problema, advierte, no es solo que existan, sino que puedan interconectarse para alimentar un único sistema de IA que modele comportamientos colectivos.

¿Qué dice la Constitución?

Desde el punto de vista jurídico, Sánchez mencionó los artículos 18 y 19 de la Constitución Nacional, que protegen el debido proceso, la defensa en juicio y la esfera privada. También el artículo 43, que sustenta el derecho a la protección de datos personales, reglamentado por la Ley 25.326. “La ley protege el principio de finalidad del dato y el consentimiento. Los datos entregados para una finalidad específica no pueden utilizarse para otros objetivos sin autorización expresa”, afirmó. La interconexión masiva de bases requeriría cumplir requisitos legales que el anuncio oficial no explicita.

El peligro de los errores

Ningún sistema de IA es infalible. Incluso los más avanzados tienen sesgos y “alucinaciones”. Sánchez recordó que las regulaciones internacionales, como las de la UE, exigen supervisión humana permanente. “Un sistema con efectividad del 98% puede parecer excelente. Pero si toma decisiones sobre 2 millones de personas, ese dos por ciento de error representa 40.000 ciudadanos afectados”, ejemplificó. Las consecuencias podrían ser decisiones equivocadas sobre beneficios, créditos, subsidios o vigilancia.

Democracia en juego

Más allá de lo técnico y legal, el debate es político. Sánchez advierte que la adopción de sistemas que influyan en decisiones estatales sobre millones de personas plantea interrogantes sobre transparencia, participación ciudadana y control democrático. “Estamos hablando de tecnologías con capacidad de impactar sobre la vida cotidiana de millones de personas. Por eso la discusión no puede limitarse al plano tecnológico: también es una discusión jurídica, política y democrática”, concluyó.