La IA ya toma decisiones en la provincia de Buenos Aires: el detalle que nadie te contó

Desde hace 9 meses, la provincia de Buenos Aires aplica un marco normativo integral para el uso de Inteligencia Artificial en la administración pública. La resolución 9/2025 de la Subsecretaría de Gobierno Digital, dependiente del ministerio de Gobierno, fijó principios rectores que buscan regular el desarrollo, la implementación y el uso responsable de esta tecnología en el sector público.

Entre los ejes centrales, la norma exige el respeto de los derechos fundamentales, la dignidad, la privacidad, la transparencia, la ética, la responsabilidad y la equidad. Además, establece los criterios de “neutralidad tecnológica” y “razonabilidad tecnológica”: la IA solo debe utilizarse cuando implique una mejora sustancial en costos, eficiencia y eficacia.

Supervisión humana, un principio clave

El texto pone a las personas como punto de partida. La responsabilidad final y el control quedan siempre en manos humanas. Por eso, la resolución obliga a “implementar mecanismos y salvaguardas para afrontar los riesgos surgidos de usos fuera del propósito previsto, intencionales o no, de una manera apta a su encuadre y respetando el ordenamiento jurídico vigente”.

También advierte sobre la brecha digital: “los operadores o proveedores de los sistemas de inteligencia artificial deben tener en cuenta que existen personas en situación de riesgo por la brecha digital, y que son susceptibles de sufrir perjuicios cuando se relacionan con los entornos tecnológicos”. Desde el Estado se debe fomentar “el desarrollo de un ecosistema inclusivo y dinámico, ponderando las situaciones particulares en la que pueden encontrarse diferentes realidades dentro de un grupo social determinado, garantizando así que los beneficios de la IA lleguen a toda la ciudadanía”.

La norma incorpora además el respeto al ambiente, la privacidad y la protección de datos, junto con la autodeterminación informativa —cada persona puede administrar y controlar sus datos— y la trazabilidad o auditabilidad. Esto implica que el uso de IA tenga procedimientos y registros idóneos en todas sus etapas, para que el algoritmo sea rastreable e identificable, y pueda someterse a evaluación de datos y procesos de diseño.

Evaluación de riesgos y registro obligatorio

El marco normativo introduce un enfoque de evaluación de riesgos. Todos los sistemas de IA utilizados o desarrollados por organismos públicos deben someterse a una evaluación preliminar. Se establecen cuatro clasificaciones según el nivel de afectación sobre la seguridad y los derechos fundamentales: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo nulo o mínimo.

Los sistemas de riesgo inaceptable quedan prohibidos. Los de alto riesgo deben pasar obligatoriamente por una evaluación de impacto algorítmico y aplicar medidas específicas de mitigación durante todo su ciclo de vida.

Finalmente, se crea el Registro Provincial de Sistemas de Inteligencia Artificial, donde los organismos de la Administración Pública bonaerense deberán inscribir todo sistema de IA que desarrollen o utilicen.