ML4Good formó a 19 abogados europeos en seguridad de IA

Un bootcamp sin precedentes para juristas europeos

A principios de septiembre, en una casa rural de East Sussex (Reino Unido), 19 profesionales senior de legal, compliance, riesgo y gobernanza de IA procedentes de 12 jurisdicciones se sentaron durante cinco días frente a pizarras con temas que rara vez aparecen en programas jurídicos: entrenamiento de modelos, evaluaciones, agentes y salvaguardas. Fue el primer European Seminar on Frontier AI and Law, organizado por ML4Good (organización que coordina bootcamps en seguridad de IA) junto con EquiStamp. La iniciativa, co-liderada por la jurista Katalina Hernández, se diseñó específicamente para perfiles no técnicos que ya toman decisiones sobre IA dentro de sus organizaciones.

¿Por qué un seminario de AI safety para abogados?

La tesis que sostiene el programa es incómoda para el sector: la regulación de IA no se va a implementar desde los despachos de política pública, sino desde los contratos, las cláusulas de procurement y los equipos de riesgo corporativo. «Los profesionales que redactan los contratos con proveedores de IA entienden la dependencia que están creando», explica Hernández en su crónica publicada en LessWrong. «Si no comprenden el cuadro técnico, el mercado seguirá premiando al modelo más capaz en lugar del partner con mejores incentivos de seguridad».

Esa palanca solo funciona si quienes implementan la legislación entienden el lenguaje técnico. Y el cuello de botella, hoy, no es la voluntad política, sino la masa crítica de juristas y oficiales de compliance con conocimiento técnico suficiente.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Lo que cambió la conversación en esos cinco días

1. Los abogados ya leen research, pero no saben interpretarlo

Uno de los momentos más intensos del programa fue la sesión sobre el incidente de Hugging Face y las salvaguardas. «La gente llegó con la humildad de quien sabe que no es experta», escribe Hernández. «Tenían acceso a papers como el AI Control paper de Redwood Research o el trabajo de Golden Gate Claude, y querían entender de verdad». La sesión sobre qué pasa durante la inferencia (el momento en que el modelo genera una respuesta) se extendió mucho más de lo previsto: muchos participantes asumían que ChatGPT «aprendía» de sus conversaciones, o que el texto que aparece como «pensamiento» del modelo era su cadena de razonamiento real. No lo es.

2. La dependencia técnica que los abogados sí entienden

Los participantes preguntaban por las diferencias entre modelos propietarios y open-weight (modelos cuyos pesos están disponibles públicamente), cómo varía el comportamiento entre modelos, qué fases del post-entrenamiento afectan seguridad y rendimiento, y qué dicen —y qué no dicen— las evaluaciones. Para ellos, traducir lenguaje técnico a obligaciones contractuales es donde ocurre el trabajo real. Un dato citado por Forbes a partir del AI Impact Report 2026 de Avature: solo el 5% de las organizaciones usa IA de forma estratégica, mientras el 88% espera aumentar inversión. La gobernanza va muy por detrás de la adopción.

3. La palanca olvidada: los incentivos de mercado

«En seguridad de IA nos centramos en cambiar lo que hacen los grandes labs, pero los incentivos de mercado los crean miles de empresas que integran estos sistemas en flujos críticos», argumenta Hernández. «Un cliente enterprise que paga, digamos, US$500.000 por una herramienta de coding con IA no mueve la aguja de un frontier lab. Miles de ellos, sí». Los abogados internos, los oficiales de riesgo y los equipos de compliance son los que ven esa dependencia desde dentro —y los que pueden exigir requisitos mínimos de seguridad en los contratos.

¿Qué hay en juego para el ecosistema hispanohablante?

El dato geográfico es relevante: Europa no tiene frontier labs nativos, pero sí es un mercado enorme con un cuerpo regulatorio que ya cuenta con una AI safety unit propia. Eso coloca a juristas y oficiales de compliance europeos en una posición de influencia única. La propia Hernández —malagueña, ex responsable de Responsible AI en una joint venture de Accenture (VOIS) y experta registrada de la Comisión Europea en gobernanza de IA— personifica ese perfil. Su trayectoria documenta, según su perfil de LinkedIn, un AI Safety Law-a-thon coorganizado con Kabir Kumar que reunió a más de 80 profesionales técnicos y legales.

La tendencia se ve también en los premios sectoriales. La cobertura de los FT Innovative Lawyers Awards for Europe 2026, que recibieron más de 650 candidaturas, describe a los general counsel como los nuevos «agent builders» y reconoce a un perfil ganador descrito como «AI legal partner» de sus clientes. En España y LATAM, donde muchas startups usan modelos de proveedores estadounidenses o europeos, esa conversación está llegando con retraso, pero va a llegar.

¿Qué significa esto para tu startup?

Si tu producto usa modelos de terceros —que es el caso de la inmensa mayoría de startups técnicas— tienes tres acciones concretas que puedes ejecutar este mes.

Lee el safety card antes de firmar el contrato. Anthropic, OpenAI y Google publican model cards y system cards con sus evaluaciones. Si tu proveedor no tiene uno actualizado a 2026, o si lo tiene pero su redacción evita temas como jailbreaks (ataques que eluden las restricciones del modelo) o comportamiento bajo presión, eso ya es información. Pide a tu equipo legal que lo trate como parte del due diligence, no como un anexo técnico.
Asigna a alguien de legal o compliance a una formación básica de AI safety. No hace falta que aprenda a entrenar modelos. Sí hace falta que pueda leer una evaluación y detectar cuándo un proveedor está exagerando sus salvaguardas. Además del programa de ML4Good, Hernández cita a BlueDot Impact, Lens Academy y al divulgador Robert Miles como rutas más cortas para empezar.
Diseña tus cláusulas de procurement pensando en actualizaciones, no en foto fija. El EU AI Act fija como deadline el 2 de diciembre de 2027 para los requisitos de sistemas de alto riesgo, según recoge Forbes. Tu contrato con un proveedor de IA debería permitirte reaccionar si el modelo cambia de comportamiento entre el día del despliegue y el día del incidente —algo que las cláusulas estándar de «modelo como servicio» rara vez contemplan.

Conclusión

El European Seminar on Frontier AI and Law nació con una tesis concreta: la seguridad de IA no la van a empujar solo los investigadores y los policymakers, sino también los abogados corporativos que firman los contratos. Si eres founder, la lectura práctica es que tu próxima ronda de contrataciones o de trabajo con tu counsel externo debería incluir a alguien que entienda tanto cláusulas de procurement como el paper de AI Control. Esa combinación, hoy, es extraordinariamente escasa —y por eso mismo, estratégicamente valiosa.