ChatGPT fabricó testigos y el Supremo de EE.UU. multó al abogado

La magistrada no se lo dejó pasar

El 10 de septiembre, el Tribunal Supremo de Nuevo México emitió una resolución que ya se cita como precedente: 5.000 dólares de multa, declaración de desacato y remisión al colegio de abogados para el letrado Stephen Aarons, un abogado criminalista de Santa Fe con más de 40 años de ejercicio. Su pecado: haber presentado un recurso de apelación en un caso de asesinato con testigos y declaraciones que no existían en el expediente, fabricadas por ChatGPT.

La magistrada C. Shannon Bacon fue directa desde el estrado, según recogió el Santa Fe New Mexican y confirmó la American Bar Association Journal: «¿Ve usted las noticias? ¿Escucha la radio? ¿Lee algo de lo que está pasando en el mundo? Porque el problema de los abogados que confían en las alucinaciones de la IA es una noticia de portada cada día».

Qué pasó exactamente

Aarons aceptó el recurso de un cliente de 60 años, condenado el año pasado por el asesinato de su esposa, y recurrió a ChatGPT para que le generara un resumen «a prueba de balas» a partir de la transcripción del juicio y otros materiales. Lo que el modelo le devolvió contenía referencias a testigos inexistentes y, según la resolución, declaraciones atribuidas a testigos reales que no figuran en el expediente.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Ante el tribunal, Aarons reconoció su «estupidez» y alegó que no entendía «el grado en el que la IA puede alucinar hechos». Su declaración a Reuters fue igualmente autocrítica: «Me arrepiento, pero espero que el colegio de abogados tenga en cuenta que fue un error honesto. Es una lección para todos los profesionales que confían en esta tecnología, potente pero a veces inestable».

El tribunal no fue compasivo. En la resolución, el panel señaló que Aarons «ha demostrado una falta de remordimiento y una falta de preocupación por su cliente». El cliente, cuyo apellido es Sandoval, recuperará su derecho a apelar: el Supremo anuló el recurso anterior, designó a la Oficina Pública de Defensa para representarle y permitirá que se presente un nuevo recurso con un abogado distinto. Aarons, además, deberá completar formación continua en uso de IA y pagó los 5.000 dólares al fondo de protección al cliente en un plazo de 30 días.

No es el primer caso: una bola de nieve que no para

Lo de Nuevo México es el más reciente de una serie que empezó a hacerse visible en 2023, cuando el juez P. Kevin Castel de Nueva York multó al abogado Steven Schwartz por citar seis casos inexistentes generados por IA en un litigio contra una aerolínea (también 5.000 dólares, según documentó la prensa especializada). En 2024, hubo al menos seis casos similares documentados en distintos estados de EE.UU. Y este mismo año, la magistrada Stephanie A. Gallagher, jueza federal de distrito en Maryland, ordenó a dos socios de la firma Quinn Patton de Severna Park que explicaran los «problemas generalizados de citación» en varios escritos que contenían citas inexistentes tras usar un sistema cerrado de IA para editar documentos con jurisprudencia de Westlaw.

El patrón se repite con independencia del estado, la firma o el año.

¿Cuán grande es el problema? Las cifras que importan

Un análisis publicado por Kallam AI el 1 de febrero de 2026 —que recoge investigación de Stanford HAI— dimensiona el fenómeno: en 2025 se documentaron más de 200 casos de citaciones fabricadas por IA que llegaron a jueces, y los tribunales emitieron al menos 66 sanciones por uso indebido de IA generativa, con multas que oscilaron entre 100 y más de 31.000 dólares.

La misma fuente recuerda que, según Stanford HAI, los modelos de uso general como ChatGPT pueden alucinar hasta en el 88% de las consultas legales específicas, mientras que las herramientas especializadas para abogados fallan todavía en un 17% a 34% de los casos. No es un matiz menor: significa que ni siquiera las plataformas diseñadas para uso legal son 0% fiables, y que un modelo de consumo generalista, usado a pelo, es prácticamente una ruleta rusa en contextos donde los hechos importan.

Las herramientas que intentan cerrar la grieta

La propia industria legaltech ha empezado a reaccionar. The Daily Record documentó el 28 de agosto de 2026 la aparición de una nueva camada de productos dedicados específicamente a cazar alucinaciones antes de que el escrito llegue al juez:

CiteSentinel, fundada por el abogado y ex ingeniero de software Brent Britton en Florida, se lanzó a principios de 2026. Escanea escritos legales, señala casos y estatutos que podrían no existir y alerta sobre citas que el modelo haya podido alterar.
Clearbrief, fundada en 2020 por Jackie Schafer (ex asociada de Paul, Weiss y ex fiscal en Alaska y Washington), es una herramienta determinista (basada en reglas, no generativa) que no puede «inventar» porque no genera texto nuevo: solo coteja. Está integrada con LexisNexis y según la compañía la usan aproximadamente el 70% de las firmas del Am Law 20.
CiteCheck AI, del abogado Tom Martin, permite a los letrados subir un documento y comprobar si las citaciones existen y se corresponden con los casos citados.

La diferencia clave con ChatGPT es que estas herramientas están construidas con arquitecturas RAG (Retrieval-Augmented Generation) o directamente deterministas: no producen texto libre sobre hechos que no están en el corpus, y muestran la fuente de cada afirmación al lado de la respuesta. El modelo no decide qué es verdad; el modelo responde solo con lo que está en el documento que le pasaste.

¿Qué significa esto para tu startup?

El caso Aarons parece lejano —abogado penal en Nuevo México—, pero el patrón es exactamente el que un founder puede replicar mañana sin darse cuenta. Cualquiera que use ChatGPT, Claude o Gemini para tareas con hechos verificables —contratos, propuestas comerciales, perfiles de clientes, due diligence, papers regulatorios, informes médicos, piezas periodísticas— está expuesto a la misma clase de error. La pregunta no es si el modelo va a inventar algo: la pregunta es cuánto te va a costar cuando lo haga.

Lo que el caso enseña, traducido a tu operativa diaria, es:

No delegues la verdad factual al modelo. Úsalo para redactar, resumir o estructurar hechos que tú le das. Nunca para que él los genere a partir de un documento complejo.
Verifica cada afirmación que vaya a un cliente, un regulador o un juez. Trata el output de un LLM como el borrador de un becario brillante pero despistado: lo que dice puede sonar perfecto y ser falso.
Si trabajas con documentos sensibles, evalúa herramientas RAG o deterministas en lugar de ChatGPT genérico. Las plataformas especializadas para legal, salud o finanzas ya existen y están diseñadas precisamente para que cada respuesta venga con la fuente al lado.
Documenta tu proceso de revisión. Si algo sale mal, lo que te van a preguntar no es «usaste IA», sino «qué verificaste antes de publicarlo».

Conclusión

El Tribunal Supremo de Nuevo México no sancionó a Aarons por usar IA. Lo sancionó por firmar un escrito que no había leído con el rigor que su cliente merecía. La diferencia es la misma que existe entre usar una calculadora para tu contabilidad y firmar una declaración de impuestos sin mirar los números: la herramienta es neutra, la responsabilidad no.

En 2026, defender que «no sabía que la IA alucina» ya no se sostiene en un tribunal, y la lección es idéntica para founders, médicos, auditores y periodistas: el coste del error es proporcional a la gravedad de lo que está en juego. El cliente de Aarons peleaba por su libertad. Tu próximo contrato, tu próximo round o tu próximo informe regulatorio pueden estar en la misma balanza.