Multa de USD 5.000 y veto ante la Corte por citar testigos que inventó ChatGPT
La Corte Suprema de Nuevo México sancionó por desacato a un abogado que presentó un recurso con cuatro testigos inexistentes. Le prohibió litigar ante el tribunal y lo derivó al órgano disciplinario.
Lo que hay que saber
- La Corte Suprema de Nuevo México halló en desacato al abogado Stephen Aarons y lo multó con USD 5.000 por un recurso con datos fabricados.
- El escrito incluía cuatro testigos inexistentes, testimonio falso atribuido a testigos reales y precedentes tergiversados, generados por ChatGPT sin verificación previa.
- El tribunal le prohibió presentarse ante esa Corte mientras dure la investigación disciplinaria, eliminó los escritos y designó a la defensoría pública.
Un abogado de Santa Fe presentó ante la Corte Suprema de Nuevo México un recurso que citaba declaraciones de testigos que nunca existieron. Los había generado ChatGPT. El tribunal lo declaró en desacato, le impuso una multa de USD 5.000, le prohibió presentarse ante esa Corte mientras dure la investigación disciplinaria y lo apartó de la causa. El caso, que en Argentina difundió Infobae, tiene una particularidad que lo distingue de los antecedentes conocidos: acá la invención no se limitó a citas de jurisprudencia. Alcanzó la prueba testimonial de un juicio penal.
Qué hizo el abogado y qué resolvió el tribunal
El letrado sancionado es Stephen Aarons. Llevaba la apelación de Oscar Renee Sandoval, condenado a prisión perpetua por el homicidio de la madre de sus hijos. Aarons admitió que usó ChatGPT para resumir las actuaciones del juicio y que no verificó el resultado antes de firmar el escrito.
Lo que llegó al expediente fue una pieza con cuatro testigos completamente inventados, testimonio falso atribuido a testigos que sí habían declarado y autoridades legales tergiversadas. No se trataba de una cita mal transcripta. Era un relato paralelo del juicio, construido por un modelo de lenguaje que rellenó los huecos con lo que le pareció verosímil.
La respuesta del tribunal fue en varios niveles. Además de la multa y del desacato, los jueces señalaron que Aarons mostró falta de arrepentimiento y falta de preocupación por su cliente. Ese punto es central. Lo que agravó la sanción no fue solo el error técnico sino la actitud posterior. El tribunal eliminó los escritos presentados, designó a la defensoría pública para que retome la apelación, que sigue pendiente, y derivó el caso al órgano disciplinario de la matrícula. Ahí la sanción puede escalar hasta la exclusión del ejercicio profesional.
Vale detenerse en la víctima real del episodio. El cliente es una persona condenada a perpetua cuya única vía de revisión quedó contaminada por un escrito fabricado. Perdió meses y quedó con un expediente que hubo que rehacer desde cero.
El deber de verificar en la práctica argentina
La reacción inicial ante estos casos suele ser que en Argentina no pasaría. Pasa. Y el marco para sancionarlo ya existe, sin necesidad de ninguna ley nueva de inteligencia artificial.
En el proceso civil federal, el artículo 34 inciso 5 d) del Código Procesal Civil y Comercial de la Nación obliga al juez a prevenir y sancionar todo acto contrario al deber de lealtad, probidad y buena fe. El artículo 45 habilita la multa por conducta temeraria o maliciosa. El artículo 35 le da al tribunal facultades disciplinarias frente a los litigantes. Un escrito con jurisprudencia inexistente encaja en cualquiera de las tres puertas. A eso se suma la vía colegial: el Código de Ética del Colegio Público de Abogados de la Capital Federal impone deberes de diligencia y de lealtad procesal que no admiten la excusa de la herramienta.
Hay un tercer frente, el más caro. La responsabilidad civil frente al propio cliente. Si un recurso se pierde o se rehace por citas fabricadas, el perjuicio es imputable al abogado, no al proveedor del software. El seguro de mala praxis tampoco es un refugio automático cuando la conducta fue negligente y evitable.
La prevención es barata y concreta. Primero, ninguna cita se incorpora a un escrito sin abrir la fuente original y leer el párrafo pertinente. Un modelo de lenguaje no consulta una base de datos: predice texto plausible. Que una cita luzca bien formateada no significa nada. Segundo, los hechos de la causa nunca se resumen con IA a partir de material que no está cargado y verificado. El resumen de una audiencia es exactamente el terreno donde el sistema inventa. Tercero, si en el estudio hay juniors o pasantes, la revisión final de citas tiene que estar asignada a una persona con nombre y apellido. Cuarto, dejá registro de esa verificación. El día que un juez pregunte, la diferencia entre una multa y una advertencia puede estar en poder mostrar el proceso.
Lo que conviene hacer esta semana
Hay una regla que resume todo el caso. La firma sigue siendo personal e indelegable. Quien firma responde por cada afirmación del escrito, sin importar quién o qué la redactó.
Si en tu estudio ya se usa IA, escribí hoy una regla de una línea y comunicala: ninguna cita de jurisprudencia, doctrina o prueba se presenta sin haber abierto la fuente. Es el control más simple y el que evita el 100% de estos casos. La tecnología es útil para ordenar ideas y agilizar borradores. Para afirmar que alguien declaró algo ante un tribunal, no sirve.
FUERO elaboró esta nota a partir de información publicada por Infobae, más normativa y documentos oficiales. El texto, el análisis y los errores son nuestros. ¿Ves algo mal? Escribinos y lo corregimos.
Preguntas frecuentes
¿Qué pasa si un abogado presenta jurisprudencia inventada por IA en Argentina?
Puede recibir una multa judicial por temeridad o malicia bajo el artículo 45 del Código Procesal Civil y Comercial de la Nación, y una sanción disciplinaria del colegio por violar el deber de diligencia. A eso se suma la responsabilidad civil frente al cliente si el escrito se cae o hay que rehacerlo, y el daño reputacional ante el tribunal.
¿Por qué ChatGPT inventa citas de fallos y testimonios?
Porque un modelo de lenguaje no consulta una base de datos jurídica: predice cuál es la secuencia de texto más probable. Si no tiene el fallo cargado, genera uno que parece real, con carátula, tribunal y fecha verosímiles. El formato correcto no garantiza que la fuente exista. Por eso toda cita debe verificarse contra el texto original.
¿Cómo usar inteligencia artificial en un escrito judicial sin riesgo?
Usala para ordenar argumentos, estructurar un borrador o resumir documentos que vos mismo cargaste y verificaste. Nunca le pidas que aporte jurisprudencia de memoria ni que reconstruya hechos de la causa. Toda cita se chequea abriendo la fuente original, y conviene dejar registro escrito de quién hizo esa verificación antes de la firma.