Una auditoría cuestiona la independencia del evaluador de Anthropic
Anthropic busca levantar hasta US$100.000 millones en lo que podría ser la mayor salida a bolsa de la historia, con una valoración de hasta US$1,4 billones y por debajo de los US$2 billones que los bancos habían planteado en verano, según The New York Times. El precio se fijaría el 18 de noviembre y la acción cotizaría en el Nasdaq con el código ANT, según Cryptobriefing.
En la antesala de esa operación, una auditoría financiera difundida en X por la cuenta @kevinnbass sostiene algo incómodo: que METR, el evaluador de seguridad al que Dario Amodei quiere dar acceso privilegiado dentro de Anthropic, depende económicamente del éxito del laboratorio que debe vigilar.
Para un founder que construye sobre Claude o que compra modelos de frontera, esto no es un debate académico. La verificación independiente dejó de ser un gesto voluntario: California aprobó un marco de organizaciones verificadoras y la Unión Europea exige documentar evaluaciones. Quién firma esa verificación empieza a importar tanto como qué modelo usas.
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →¿Qué dice la auditoría sobre METR y el dinero que lo financia?
El documento afirma que METR, una organización sin fines de lucro, no es un tercero neutral porque buena parte del dinero que la sostiene —y que sostiene a las fundaciones y centros de estudio que la rodean— proviene de vehículos filantrópicos financiados con la participación de Dustin Moskovitz en Anthropic. Moskovitz, cofundador de Facebook, es uno de los mayores donantes del ecosistema de seguridad en IA.
La auditoría cita una estimación de Forbes que valoró esa participación donada en unos US$500 millones y sostiene que hoy supera los US$7.700 millones. Su conclusión es un incentivo estructural: si Anthropic se hunde, se hunden los financiadores de METR; si Anthropic crece, METR y su red reciben más recursos para regular la IA. El documento lo resume afirmando que el evaluador forma parte de la nómina del evaluado.
El argumento se extiende a otros nodos de la red —menciona al Tarbell Center como difusor de artículos sobre riesgo existencial— y a la circulación de las mismas personas entre organizaciones. Cierra pidiendo una investigación del Congreso de Estados Unidos.
No se encontraron declaraciones públicas de Anthropic o METR respondiendo específicamente a esta auditoría en el material revisado para esta nota.
¿Qué está confirmado sobre el acceso de METR a Anthropic?
Aquí el terreno es más firme. TechCrunch reportó que Amodei propuso en un ensayo incrustar evaluadores de terceros dentro de las empresas de frontera, con poder para reportar incidentes y publicar hallazgos sin control editorial de la compañía, y que Anthropic se comprometió a dar a METR y Redwood Research un acceso sin precedentes. Sam Altman dijo que OpenAI haría lo mismo.
ZDNET detalló que Anthropic otorgó acceso tipo empleado a seis evaluadores de METR, con hardware y espacio de oficina, y que METR publica sus conclusiones: Anthropic no puede retenerlas, aunque sí puede pedir que se redacte información sensible.
El problema es lo que falta. Según TechCrunch, ninguna de las dos empresas había precisado con qué evaluadores trabajaría, cuándo los incorporaría, cuántos serían ni a qué sistemas accederían, pese a las preguntas reiteradas del medio. Los propios evaluadores advirtieron que el esquema solo funciona si las empresas ceden el control del proceso.
¿Por qué la independencia del evaluador es el nuevo campo de batalla?
La discusión técnica empuja en la misma dirección. Los modelos aprenden a reconocer cuándo están siendo evaluados, así que probar solo la versión final puede dejar a la vista únicamente el comportamiento que el modelo quiere mostrar. Por eso los evaluadores piden acceso a las versiones intermedias del entrenamiento.
- Alexander Meinke, de Apollo Research, lo planteó en TechCrunch: hoy se depende de que las empresas revisen sus propios procesos y reporten la verdad, y los incidentes recientes muestran que por defecto no hacen ninguna de las dos cosas.
- Adam Gleave, CEO de FAR.AI, dijo que su firma rechazó contratos con desarrolladores de frontera que exigían demasiado control, y que por defecto a los evaluadores se los trata como contratistas con acuerdos de confidencialidad restrictivos.
- Los tiempos también son un límite: cuando OpenAI investigó el incidente de Hugging Face, dio a METR y Redwood cerca de una semana en las instalaciones, y ambos dijeron después que no podían sacar conclusiones firmes.
La presión regulatoria acompaña. La ley californiana SB 53 obliga a los grandes desarrolladores a publicar marcos de seguridad y reportar incidentes críticos, y la SB 813 crea un marco de organizaciones verificadoras reconocidas por el estado, según ZDNET, que también reportó que la FTC citó a OpenAI y a Anthropic por posibles daños al consumidor. La FRONTIER Act, un proyecto bipartidista presentado en julio, exigiría permitir la revisión por organizaciones de verificación independientes. En Europa, el AI Act ya obliga a documentar evaluaciones y pruebas adversarias.
Más de 100 expertos en IA firmaron una carta del AI Evaluator Forum con condiciones mínimas: los evaluadores no deben ser propiedad de las empresas de frontera, no deben tener negocio comercial relevante con ellas y no deben aceptar pagos contingentes a sus hallazgos, reportó IBTimes.
¿Qué significa esto para tu startup?
El conflicto que denuncia la auditoría no lo vas a resolver tú. Pero la pregunta que expone —quién paga al que certifica— ya llegó a tu operación por dos vías: la due diligence de tus clientes enterprise y la regulación de los verificadores.
- Anticipa el cuestionario de tus clientes. Si vendes a una empresa grande o al sector público, prepárate para que te pregunten quién evaluó el modelo que usas y con qué nivel de acceso. Pide a tu proveedor el informe de evaluación y si el evaluador tuvo control editorial sobre sus conclusiones. Guardarlo por versión de modelo te ahorra semanas cuando el cliente lo pida.
- Diseña para portabilidad, no para un solo proveedor. Un cambio de términos, de precio o de marco regulatorio en un proveedor de frontera no debería obligarte a reescribir tu producto. Una capa de abstracción sobre la API y un registro de qué versión de modelo usa cada release es trabajo de días y seguro barato.
- Si vendes en la UE, documenta tus propias pruebas. El AI Act obliga a documentar evaluaciones y pruebas adversarias para sistemas de riesgo alto. Con la SB 813 y la FRONTIER Act en marcha, la trazabilidad de las evaluaciones deja de ser un extra de seguridad y pasa a ser un requisito de venta.
- Si construyes herramientas de evaluación, la neutralidad es tu producto. La carta de los 100 expertos convierte la independencia financiera en criterio explícito. Un proveedor de auditoría o de evidencia de evaluación que pueda demostrar de dónde sale su dinero tiene una ventaja comercial difícil de copiar.
Cómo leer esta denuncia sin caer en el hype
Conviene separar el hecho de la interpretación. Lo que está confirmado es que Anthropic está dando un acceso inédito a METR, que la regulación de verificadores avanza y que los propios evaluadores exigen blindajes contra conflictos de interés. Eso es verificable y es noticia.
Lo que no está probado es la tesis de captura regulatoria completa. La auditoría es un trabajo de un autor publicado en X con un anexo en GitHub, no un informe de un regulador ni una investigación periodística. Su propio documento reconoce límites importantes: no identifica el vehículo legal que recibió la donación de la participación y una de sus verificaciones concluye que los formularios fiscales de la fundación revisados no mostraban tenencias de Anthropic a mediados de 2025.
También hay que leerlo como lo que es: una hipótesis con evidencia parcial sobre un problema estructural que existe más allá de este caso. Quien paga al evaluador tiene un incentivo, y ese incentivo merece gobernanza explícita, no confianza.
Conclusión
La salida a bolsa de Anthropic va a concentrar más dinero y más escrutinio sobre el laboratorio. La auditoría apunta a un punto que ninguna oferta pública resuelve: la independencia de quien certifica no se declara, se diseña. Si tu producto depende de modelos de frontera, la trazabilidad de las evaluaciones —quién evaluó, con qué acceso y con qué financiamiento— es información que tu cliente, tu regulador y tu equipo legal van a pedir. Empieza a recolectarla ahora, mientras es gratis.
Fuentes
- Auditoría publicada en X (@kevinnbass) (fuente original)
- Anthropic and OpenAI want to embed safety evaluators. Will they really be independent? – TechCrunch
- Anthropic gives third-party auditors employee-like access – ZDNET
- More Than 100 AI Experts Sign a Letter on Independent AI Safety Evaluators – IBTimes
- Wall Street Makes Its Pitch for Anthropic’s I.P.O. – The New York Times
- Anthropic IPO puts Jane Street’s FTX bankruptcy bargain in the spotlight – Crypto Briefing
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →













