IA exige criterio humano: lo que los US$1.500M enseñan

El caso Anthropic: US$1.500M por dejar a la IA decidir sin supervisión

En agosto de 2025, Anthropic acordó pagar US$1.500 millones —el mayor settlement por derechos de autor en la historia de EE.UU., según documentó TechTimes— para resolver la demanda colectiva Bartz v. Anthropic, en la que unos 120.000 autores alegaron que la empresa descargó sus libros desde bibliotecas piratas para entrenar a Claude. No fue un fallo técnico del modelo. Fue un problema de criterio humano: alguien en la cadena de entrenamiento decidió que era aceptable usar material sin licencia, y la IA ejecutó sin supervisión lo que se le autorizó.

Esa es exactamente la advertencia que la columnista de Prensa Libre tradujo con la balada de Goethe (El aprendiz de brujo, 1797): el error no estuvo en aprender el encantamiento, sino en dormirse mientras las escobas acarreaban agua. La fascinación por delegar trabajo cognitivo en artefactos «inteligentes» sigue el mismo patrón, y los datos de 2026 lo confirman con cifras.

Tres frentes regulatorios que fragmentan la gobernanza de IA en 2026

La gobernanza de la IA no se está unificando; se está abriendo en tres frentes independientes, según el seguimiento de TechTimes:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

1. Frente de propiedad intelectual. El 28 de mayo de 2026, CNN presentó una demanda de 54 páginas contra Perplexity en el Distrito Sur de Nueva York, alegando scraping de más de 17.000 artículos, fotos y videos. Son ya nueve los grupos editoriales que han demandado a Perplexity: The New York Times, News Corp/Dow Jones, New York Post, Chicago Tribune, Encyclopedia Britannica, Merriam-Webster, Reddit y el japonés Yomiuri Shimbun. Otros editores —Time, Gannett, Le Monde y Der Spiegel— optaron por licencias en lugar de litigar, lo que dibuja dos estrategias opuestas ante el mismo problema.

2. Frente federal-estatal en EE.UU. El 9 de abril de 2026, xAI demandó la ley SB24-205 de Colorado, la primera ley estatal integral de IA del país. Quince días después, el Department of Justice intervino bajo el Civil Rights Act —la primera vez que el gobierno federal buscaba invalidar una ley estatal de IA en tribunales, al amparo de la Orden Ejecutiva 14365 firmada por el presidente Trump en diciembre de 2025—. Un magistrado concedió la suspensión el 27 de abril; Colorado aprobó una ley sustituta SB 26-189 que el gobernador Polis firmó el 14 de mayo de 2026, pero la suspensión judicial se extiende también a la nueva norma. Su entrada en vigor, prevista para el 1 de enero de 2027, sigue en pausa.

3. Frente europeo y californiano. Las obligaciones completas de transparencia del EU AI Act son exigibles desde el 2 de agosto de 2026; los modelos GPAI preexistentes tienen hasta agosto de 2027 para alcanzar cumplimiento pleno. La Transparency in Frontier AI Act de California está vigente desde el 1 de enero de 2026. OpenAI publicó el 28 de mayo de 2026 su Frontier Governance Framework, alineando su Preparedness Framework interno con ambos regímenes y marcando un estándar implícito que Anthropic, Google DeepMind y xAI deben igualar.

Italia ya convirtió la supervisión en ley

Italia es uno de los primeros países en operationalizar el EU AI Act a nivel nacional, según IAPP. La Ley N.º 132 entró en vigor en octubre de 2025, y el Decreto Legislativo N.º 160 del 9 de septiembre de 2026 —vigente desde el 30 de septiembre— introduce sanciones penales, expande la responsabilidad administrativa corporativa y crea mecanismos civiles especializados. Su artículo 17 refuerza el principio de accountability: las empresas deben poder demostrar con documentación trazable que sus salvaguardas funcionan, no solo declararlas.

Los marcos que ya están adoptando las grandes

Los modelos por sí solos no resuelven esto. Para empresas que despliegan IA agéntica —sistemas que ejecutan acciones, no solo generan texto—, la gobernanza se reduce a cinco preguntas prácticas según Analytics Insight:

Identidad del agente: ¿qué sistema ejecutó la acción, con qué credenciales, contra qué infraestructura?
Permisos de mínimo privilegio: un agente de soporte puede reembolsar hasta un umbral, pero no modificar credenciales de pago.
Logs auditables: inputs, outputs, llamadas a herramientas, permisos, timestamps, aprobaciones humanas.
Puntos de control humano: intervención obligatoria en transacciones por encima de cierto umbral.
Capacidad de pausa: mecanismos para detener al agente cuando el monitoreo detecta comportamiento inesperado.

Los marcos de referencia que estructuran este proceso son el NIST AI Risk Management Framework y la norma certificable ISO/IEC 42001. Ninguno reemplaza la ley aplicable, pero ambos permiten demostrar un proceso documentado de gobernanza, justo lo que exige el nuevo artículo 17 italiano.

Qué significa esto para tu startup

Si tu producto usa modelos de terceros o desarrolla agentes que ejecutan acciones, la pregunta ya no es «qué tan bueno es el modelo», sino «qué tan buena es la supervisión humana sobre el modelo». Tres acciones concretas para founders hispanohablantes:

Audita hoy tu cadena de datos de entrenamiento. Si incorporaste datasets de origen dudoso, el precedente Anthropic indica exposición legal de ocho cifras en USD. Documenta cada fuente y su licencia: sin trazabilidad no hay defensa. Ten en cuenta que clientes enterprise europeos y estadounidenses exigirán esa trazabilidad como condición de compra, aunque tu sede esté en Madrid, Bogotá o Ciudad de México.
Diseña logs auditables desde el día uno. Los reguladores y tus clientes enterprise van a pedir reconstruir qué hizo tu agente y por qué. Un log del «razonamiento interno» no sobrevive a una revisión; un log de acciones, llamadas a herramientas y permisos sí.
Mapea los tres frentes antes de expandirte. Lanzar en la UE, California o Colorado en 2026 sin entender qué obligaciones aplican a tu caso de uso es exactamente el tipo de delegación sin criterio que advierte la columnista de Prensa Libre. Una reunión de dos horas con un abogado tech en cada jurisdicción cuesta menos que una multa o una suspensión judicial.

La regla que sobrevive a cualquier framework: el riesgo no está en el modelo, está en quien decide cuándo y cómo se usa. Las escobas de Goethe siguen acarreando agua; quien se queda dormido termina empapado.