El misterio del Gemelo Digital Social: ¿qué datos tuyos usará y quién controla la IA del Gobierno?

El Gobierno presentó el Gemelo Digital Social, una herramienta de inteligencia artificial que promete cruzar datos públicos para anticipar problemas sociales. Pero el anuncio generó más preguntas que respuestas: ¿qué información personal se usará, quién la manejará y qué controles existen para evitar abusos?

Impulsado por el Ministerio de Capital Humano, el sistema busca transformar datos en predicciones. La idea es que el Estado pueda simular escenarios y evaluar políticas antes de aplicarlas, usando información social, educativa, laboral y territorial. Sin embargo, el proyecto llegó sin detalles clave: no se informó qué bases de datos se integrarán, qué organismos participarán, si habrá empresas privadas involucradas, ni cuál será el presupuesto.

¿Qué es un gemelo digital y por qué preocupa?

Florencia Zappalá, abogada especialista en privacidad, explicó que un gemelo digital es un sistema que replica virtualmente procesos físicos, alimentado con datos reales para hacer predicciones. El concepto nació en la NASA en los años 60 y hoy se usa en industrias como energía o salud. Pero aplicarlo a personas cambia todo: los datos dejan de ser técnicos y pasan a ser un asunto de derechos.

David Regairaz, abogado en IA y protección de datos, señaló: “Los datos personales son valiosísimos porque con ellos se juegan derechos como la salud, la jubilación o un juicio justo. Cuando un sistema junta toda esa información, puede afectarlos a todos juntos”.

Las dudas del Ministerio de Capital Humano

El ministerio afirmó que el proyecto está en etapa preliminar, con diagnósticos internos y mesas de trabajo. Pero no aclaró si será un sistema estadístico agregado o una plataforma que construya perfiles individuales. Regairaz cuestionó: “El Gobierno avisó que cruzaría datos de distintos organismos, pero no dijo cuáles ni qué información tomarán de las personas”.

Fundación Vía Libre ya presentó un pedido de acceso a la información para conocer qué datos se recolectarán y bajo qué base legal. La Ley 25.326 de Protección de Datos Personales establece que los datos solo pueden usarse para el fin con el que fueron recabados. Un fallo reciente de la Corte Suprema reforzó ese límite, prohibiendo usar datos como teléfono o email para otros fines sin justificación.

¿Palantir y el riesgo de los datos en el exterior?

Las especulaciones sobre una posible relación con Palantir, la empresa de Peter Thiel, llevaron al Ministerio a aclarar que el proyecto no pertenece a ninguna empresa externa y que no hará contrataciones integrales. Sin embargo, Zappalá advirtió que si una empresa estadounidense accede a los datos, entra en juego el CLOUD Act, que permite a autoridades de EE.UU. exigir datos sin intervención argentina.

Betania Allo, abogada en IA, resumió cuatro preguntas críticas: “Qué metodología de anonimización se usará, qué tecnologías subyacentes tendrá, qué evaluación de impacto previa se hará y qué auditoría externa independiente tendrá una vez operativo”.

Los riesgos de una IA sin reglas claras

Un sistema predictivo puede mejorar la asignación de recursos, pero también puede generar sesgos. Regairaz advirtió: “Si el modelo recomienda otorgar o negar una prestación, esa decisión queda en manos de un algoritmo. Y los algoritmos discriminan porque aprenden de datos históricos con desigualdades”. Además, en Argentina no existe un derecho a la revisión humana de decisiones automatizadas.

Sin trazabilidad, la IA se convierte en una caja negra. La discusión recién empieza y el Gobierno debe responder: qué datos usará, con qué base legal, quién auditará el sistema y cómo se protegerán los derechos de los ciudadanos.