ChatGPT y dudas legales: 2.292 casos de citas inventadas

Qué puede hacer la IA por ti cuando tienes una duda legal

Un dato para calibrar el riesgo: a noviembre de 2026 había ya más de 2.200 resoluciones en todo el mundo en las que un juez constató que una parte presentó contenido inventado por una IA. Algunas son españolas. Y no todas las firmaron particulares sin abogado.

Dicho eso, la conclusión no es «no la uses». Es «úsala para lo que sirve». Los asistentes conversacionales son buenos traduciendo el lenguaje jurídico al castellano de la calle y malos como fuente de citas. Esa asimetría es la que tienes que tener en la cabeza antes de escribir tu primera pregunta.

Usos que tienen sentido:

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Traducir un texto jurídico. Pegas una cláusula de tu contrato de alquiler o un artículo de una ley y pides que te lo explique con un ejemplo cotidiano. Si el texto lleva datos personales, anonimízalo antes.
Ordenar los hechos. Le cuentas tu caso y le pides una cronología con lo que falta por documentar. Esa lista suele ser más útil que cualquier respuesta.
Preparar las preguntas. Una lista de dudas para llevar al abogado, al servicio de consumo o a la gestoría. Llegar con preguntas concretas cambia la conversación.
Saber qué norma buscar. Que te oriente sobre qué ley regula algo, para luego leerla tú en la fuente.

Lo que no conviene es pedirle un veredicto sobre tu caso ni un escrito para presentar sin revisión profesional. Hasta OpenAI marca esa frontera: sus políticas de uso, en la versión que se aplica desde el 20 de noviembre de 2026, prohíben crear herramientas de IA que den a otros asesoramiento personalizado que requiera licencia sin la participación de un profesional habilitado, y prohíben automatizar sin revisión humana acciones de alto impacto en ámbitos sensibles, entre ellos el legal.

Y si el problema es que no puedes pagar ese profesional, la Ley 1/1996 de asistencia jurídica gratuita incluye, en su artículo 6, el asesoramiento y la orientación gratuitos previos al proceso para quien cumpla los requisitos.

Por qué la IA se inventa citas legales

El fenómeno tiene nombre: alucinaciones. El modelo no consulta una base de datos de sentencias cuando le pides una; genera texto que suena plausible. Y en el terreno legal, «suena plausible» es exactamente el problema, porque una cita falsa con formato correcto es indistinguible de una real para quien no la comprueba.

Un estudio de enero de 2024 recogido en el auto navarro del que hablamos más abajo situaba las alucinaciones legales en el 69 % de los casos con ChatGPT 3.5 y el 88 % con Llama 2. Son cifras de modelos de aquella época, pero la conclusión conviene recordarla: los modelos no siempre saben cuándo se están inventando algo.

Hay un segundo problema que en lo legal pesa mucho: los chatbots tienden a darte la razón. Si preguntas «¿verdad que puedo reclamar?», es fácil que contesten que sí. Eso no es asesoramiento, es complacencia.

Qué errores ya han llegado a los tribunales

La base de datos más completa es la que mantiene Damien Charlotin. A 12 de noviembre de 2026, su registro de casos de alucinaciones de IA contaba 2.292 resoluciones en las que el tribunal constató, o dio a entender, que una parte se apoyó en contenido inventado. 1.553 son de Estados Unidos y 8, de España. Por tipo de parte, 912 casos corresponden a abogados y 1.315 a personas que litigaban sin abogado. La base solo recoge las que un tribunal ha tratado de forma explícita.

El patrón se repite fuera de España. Según The Verge, el Tribunal Supremo de Nuevo México multó con 5.000 dólares a un abogado que incluyó en un recurso testigos fabricados y testimonios policiales falsos generados con ChatGPT. Según The Guardian, un fiscal de la Crown Prosecution Service británica citó ante el Tribunal Superior un caso inexistente, y el incidente elevó a 101 las entradas del registro de errores de IA en procedimientos judiciales que mantiene el abogado Matthew Lee, de Doughty Street Chambers.

Y hay un matiz que casi nadie comenta: el tribunal también mira al abogado de la otra parte. Según ABA Journal, en el caso Noland v. Land of the Free un tribunal de apelación de California impuso en septiembre de 2025 una sanción de 10.000 dólares a la parte que presentó citas fabricadas, pero negó las costas a la parte contraria por no haber alertado de esas citas. La diligencia ahora corre por los dos lados.

Qué está pasando en España

El caso de referencia es un auto del Tribunal Superior de Justicia de Navarra del 4 de septiembre de 2024 (ECLI:ES:TSJNA:2024:38A). Un abogado presentó una querella que citaba como si fuera del Código Penal español un artículo del Código Penal de Colombia. Según el auto, el propio letrado explicó que el texto se lo había facilitado ChatGPT por un manejo inadecuado del sistema en su despacho, y pidió disculpas de inmediato. El tribunal archivó la pieza sin multa por ser una materia «ciertamente novedosa» y por esa reacción rápida, pero dejó escrito que el uso descuidado de estas tecnologías «es susceptible de integrar un claro ejemplo de mala fe procesal». La multa que prevé el artículo 247 de la Ley de Enjuiciamiento Civil va, recuerda el auto, de 180 a 6.000 euros.

El mismo auto cita el caso Avianca, en el que un juez federal de distrito de Nueva York impuso el 22 de junio de 2023 una sanción de 5.000 dólares por el uso indebido de ChatGPT en escritos procesales.

No fue el último caso navarro. Según publicó Noticias de Navarra el 26 de marzo de 2026, la Sala de lo Social del mismo tribunal archivó otra pieza sancionadora contra una abogada que, en un recurso de octubre de 2025, incluyó ocho citas inventadas de sentencias del Constitucional, el Supremo y los tribunales superiores de Navarra y Madrid. Tampoco hubo multa, por la rapidez de sus disculpas.

Y no siempre se archiva. Según EFE (vía Valencia Plaza), los Tribunales Superiores de Justicia de Canarias y Galicia han impuesto sanciones de 420 y 1.800 euros por escritos con citas falsas. En el caso gallego, El Confidencial detalla que el TSXG contabilizó 24 citas falsas en un recurso de súplica y abrió una pieza separada por mala fe procesal. El marco sancionador que citan los jueces es el artículo 75.4 de la Ley de la Jurisdicción Social, con multas de 600 a 6.000 euros.

Cómo comprobar en el BOE lo que te dice la IA

Tres comprobaciones: que la norma existe, que el artículo dice eso y que esa es la versión vigente. Las tres se hacen en la web del BOE, que es gratuita.

Busca el texto consolidado. Cuando la IA te cite una ley, búscala en el apartado de legislación consolidada del BOE. El texto consolidado incorpora todas las modificaciones. En la cabecera verás la fecha de su última actualización: en la Ley de Marcas, por ejemplo, figura «Última actualización, publicada el 28/07/2022». Si el chatbot cita una ley que no aparece, o con un número que no coincide, para ahí.
Lee el artículo exacto. No te quedes con el resumen. Ve al artículo que menciona la IA y compara. El caso navarro lo ilustra: el precepto citado no correspondía al Código Penal español, algo que una lectura rápida habría detectado.
Comprueba la versión. Junto a muchos artículos, el BOE ofrece el selector «Seleccionar redacción», que muestra cada versión con su fecha de entrada en vigor. Es la herramienta clave contra un error muy habitual de la IA: darte una redacción antigua como si fuera la actual. El apartado «Análisis» de cada norma indica además qué otras disposiciones la han modificado.

Los Códigos electrónicos de la Biblioteca Jurídica Digital del BOE reúnen las principales normas vigentes por ramas del Derecho, se actualizan de forma permanente y permiten suscribirse a alertas a través de Mi BOE.

¿Y si la IA te cita una sentencia?

Para las sentencias el sitio es otro. Si la IA te cita una, búscala en el buscador del Consejo General del Poder Judicial (CENDOJ) por tribunal, fecha o número. Si no aparece, trátala como inventada hasta que alguien te demuestre lo contrario.

Qué significa esto para tu startup

Si a profesionales del Derecho, con años de formación y responsabilidad deontológica, se les colaron citas inventadas, el riesgo para un equipo fundador que redacta sus propios contratos, políticas de privacidad o términos de servicio es mayor. No porque el equipo sea peor, sino porque nadie está revisando esa capa.

El Libro Blanco sobre Inteligencia Artificial y Abogacía, coordinado por profesoras de la Universitat de València junto al Colegio General de la Abogacía Española y el ICAV en el marco de Red.es, resume sus recomendaciones en cinco: responsabilidad, formación y capacitación, supervisión humana, protección de la confidencialidad y la privacidad, y entender la IA como herramienta instrumental. Ese catálogo sirve igual para una startup que para un despacho.

Acciones concretas que puedes implementar esta semana:

Monta un paso de verificación obligatorio. Cualquier cláusula, cita normativa o referencia legal que salga de un asistente pasa por una persona que la comprueba en la fuente antes de entrar en un documento. No es un chequeo opcional: es parte del proceso.
Prohíbe pegar datos personales y secretos comerciales en chatbots generalistas. Trabaja con documentos anonimizados. Un contrato con un cliente o un acuerdo de confidencialidad contiene información que no debe salir de tu perímetro.
Escribe una política interna de uso de IA con nombre y apellido. Quién puede usarla para qué, qué revisiones son obligatorias y quién responde si algo sale mal. La responsabilidad no se delega en el modelo.
Si operas en un sector regulado (fintech, healthtech, seguros), trata la salida de la IA como un borrador sin firma. La revisión de un profesional habilitado no es burocracia: es la línea que separa un error corregible de una sanción.

Conclusión

La IA es un buen primer paso para entender tu problema legal. La comprobación en la fuente es el segundo paso, y no es opcional. Y para cualquier cosa que vaya a firmarse o presentarse ante un juzgado o una administración, el tercer paso sigue siendo una persona que responda de lo que dice.

El ahorro de tiempo es real. También lo es el coste de una cita inventada: entre 180 y 6.000 euros en España por la vía de la mala fe procesal, sin contar el daño reputacional. La cuenta se hace sola.