Citó fallos que no existen y el juez lo descubrió: la advertencia que sacude a los abogados

Un juez de la Justicia Civil y Comercial de Villa Constitución descubrió que una de las partes de un juicio usó Inteligencia Artificial Generativa para armar escritos judiciales y citó fallos, tribunales y hasta una pericia que no existían. La resolución, que trascendió a través del sitio Versión Rosario, deja una advertencia que ya recorre los pasillos de los tribunales.

La causa de fondo ya era complicada: había que reconstruir un contrato que el demandado primero negó y después reconoció, y encuadrar un vínculo que ninguna de las partes supo calificar bien. A eso se sumó una larga pericia y su correspondiente impugnación. Pero el trabajo extra que apareció después fue directamente baldío: rastrear jurisprudencia que, en buena parte, no figura en ninguna fuente.

El tiempo que demandó esa verificación no le pertenece al juez, según se desprende de la resolución. Le pertenece al servicio de justicia y a los demás expedientes que esperan su turno. El texto hace referencia explícita al uso de la Inteligencia Artificial Generativa en los escritos judiciales.

Qué dice el fallo sobre las citas inventadas

El magistrado fue contundente: “Quien cita una norma afirma que existe. Quien transcribe un fallo afirma que un tribunal lo dictó y que dijo exactamente eso. Son afirmaciones de hecho, y llevan el aval de la matrícula de quien firma. Las herramientas de inteligencia artificial pueden cumplir una función ancilar en la preparación de un escrito. Sirven para ordenar ideas, sugerir una estructura o pulir una redacción. Su empleo no exime del deber de verificación, ni siquiera lo atenúa”.

Y agregó: “Los modelos de lenguaje de uso general no fueron concebidos para la consulta jurídica. Producen texto verosímil, no sabemos si verdadero. Cuando no encuentran un precedente, pueden fabricarlo con carátula, tribunal, fecha y una frase entre comillas. ¡Rara vez admiten que no saben! Responden siempre, y lo hacen con la misma seguridad cuando aciertan y cuando yerran”.

Para el juez, eso obliga a redoblar los controles: cuanto más segura suena una respuesta, más atento debe estar quien la recibe. “Frente a la herramienta, el propio juicio debe acentuarse. La génesis tecnológica de un error tampoco cambia su naturaleza. Una cita inexistente es una cita inexistente, la haya producido un modelo de lenguaje o un colaborador apurado”, sostuvo.

Los tribunales y fallos que no aparecen en ninguna base

La resolución enumera una serie de inconsistencias concretas. Uno de los tribunales invocados no existe con esa denominación. En la Capital Federal, la Cámara Nacional de Apelaciones en lo Civil y la Cámara Nacional de Apelaciones en lo Comercial son organismos distintos: el único que reúne ambas materias en su nombre es la Cámara Nacional de Apelaciones en lo Civil y Comercial Federal, cuyas salas se designan con números romanos y donde no hay una Sala B.

Además, un cobro entre dos sociedades privadas por la venta de lácteos no es materia federal. La búsqueda en la Cámara Civil y en la Cámara Comercial, en todas sus salas, tampoco arrojó resultado. Lo mismo ocurrió con seis causas atribuidas a la Cámara Nacional de Apelaciones en lo Comercial y a la Cámara Federal de Apelaciones de Rosario: ninguna de las seis apareció en las bases consultadas, por ninguna vía de búsqueda.

El fallo también apunta a que, para fijar la tasa de interés, se recurre a fallos de 1992 y se los califica de “recientes”. Tres décadas después, ese detalle revela un texto tomado sin revisar. A eso se suma la sospecha de rastros de copipega sin control en el propio texto de la contestación de demanda.

En cuanto a la pericia caligráfica, el magistrado consideró con alto grado de verosimilitud que su núcleo técnico no fue elaborado, en lo sustancial, por quien la firma.

El respaldo del Colegio de Abogados y el costo del atajo

El juez destacó que el propio Colegio de Abogados de Rosario, al que pertenece la matrícula de quienes litigan en esa circunscripción, ya se había pronunciado al respecto en su Guía para la implementación ética y responsable de la inteligencia artificial generativa en la práctica jurídica.

“Vimos en este expediente. Carátulas verosímiles, tribunales plausibles, fechas precisas y frases que dicen exactamente lo que el escrito necesitaba. El costo de ese atajo no lo paga quien lo toma. Lo paga la contraparte, que debe responder a lo inexistente. Lo paga el tribunal, que debe verificarlo. Y lo pagan los demás justiciables, cuyos expedientes esperan mientras tanto”, concluyó el magistrado.

En la sentencia, además, se condenó al cliente de un establecimiento lácteo con quien tenía un contrato de fasón a pagarle $108.000.000 más intereses.