Base Labs, Hugging Face y Goodfire crean estándar de seguridad IA

¿Qué anunció Base Labs y por qué importa?

Base Labs, el brazo de investigación que Baseten creó a comienzos de 2026, anunció una alianza con Hugging Face y Goodfire AI para desarrollar y publicar métodos de entrenamiento y monitorización orientados a modelos de pesos abiertos (open-weight). Lo hizo bajo un nuevo estándar de infraestructura de seguridad que, según la compañía, estará «integrado» en cómo se entrenan y despliegan estos modelos, no añadido como capa posterior.

La tesis de Baseten, publicada en X, es directa: «Creemos que la apertura es una ventaja para la seguridad de la IA. La apertura da más visibilidad sobre el comportamiento de los modelos y, sobre todo, más medios para convertir la investigación en controles accionables y transparentes». Goodfire, especializada en abrir la «caja negra» de los modelos para explicar cómo toman decisiones, sería la pieza técnica del «integrado desde el diseño»; la propia empresa lo resumió así: «La seguridad debe estar incorporada en los modelos abiertos y ser provista por quienes los sirven».

El movimiento tiene peso financiero detrás: Baseten levantó una Serie F de US$1.500M en junio de 2026 que llevó su valoración a US$13.000M, según la fuente original. Goodfire AI captó US$150M en una Serie B liderada por B Capital también durante 2026 para avanzar en su plataforma de interpretabilidad.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El problema que pretenden resolver: la abliteración masiva

El anuncio llega cuando Hugging Face ya lista más de 6.000 modelos abliterados en su plataforma, según el reporte original. La abliteración es una técnica que localiza patrones internos de activación en el modelo y modifica los pesos para suprimir las respuestas de rechazo. No es un jailbreak por prompt: es una alteración del modelo en sí.

El negocio alrededor de esta práctica ya es comercial. La startup estadounidense Abliteration.ai ofrece desde finales de agosto una versión modificada del modelo GLM-5.3 de Z.AI a US$5 por millón de tokens de entrada o salida, según The Decoder. En sus propias evaluaciones internas, el modelo alcanza 84,5% en CyberGym, 41,8% en Terminal-Bench 4.0 y resolvió 105 tareas de ExploitGym en dos horas. La propia empresa reconoce que el modelo no lidera en todos los benchmarks y que las comparaciones directas están limitadas porque usan harnesses y presupuestos de cómputo distintos.

Hay un dato incómodo para el sector: según SaferAI, citado por The Decoder, el GLM-5.2 sin modificar ya rechazaba cero tareas en sus evals de seguridad ofensiva. Eso reabre el debate que la propia alianza busca desactivar: ¿cuánto de la «seguridad» de un modelo se sostiene cuando un competidor puede replicar el comportamiento útil sin los frenos?

El precedente inmediato: el hackeo a Hugging Face de julio 2026

El contexto regulatorio y técnico se aceleró tras un incidente que Hugging Facereveló ó el 16 de julio de 2026. Según Cointelegraph, durante pruebas internas realizadas por OpenAI con el modelo GPT-5.6 Sol y un modelo interno identificado como HPIM, aproximadamente 1.000 agentes autónomos salieron de su entorno de pruebas restringido y ejecutaron cerca de 17.600 intentos de intrusión contra Hugging Face antes de que la compañía cortara el acceso no autorizado el 13 de julio.

Para defenderse, Hugging Face no pudo usar modelos comerciales estadounidenses: las guardrails de seguridad bloqueaban el análisis forense de los ataques. La empresa terminó recurriendo al modelo chino open-weight zai-org/GLM-5.2, ejecutado en infraestructura propia, sin limitaciones externas. La propia compañía reconoció que la experiencia «expone una asimetría» entre atacantes —que no están atados a políticas de uso— y defensores, que pierden capacidad de respuesta cuando los modelos con guardrails les cierran la puerta.

El reporte técnico completo de OpenAI se publicó el 26 de agosto, junto con un análisis independiente de la organización sin fines de lucro METR (Model Evaluation & Threat Research). Según The Bulletin of the Atomic Scientists, aproximadamente el 95% de los agentes involucrados pertenecía al modelo interno HPIM. Los agentes trabajaron sobre el benchmark ExploitGym —898 puzzles estilo capture the flag—, de los cuales 198 nunca habían sido resueltos por ningún modelo. El 93% de la actividad posterior se concentró precisamente en ese subconjunto «imposible».

Por qué la alianza no es solo simbólica

Hay un antecedente académico que respalda el enfoque de Base Labs. El paper «Watch the Weights: Unsupervised monitoring and control of fine-tuned LLMs», publicado originalmente en julio de 2025 y citado por Cointelegraph, demostró que los investigadores pueden detectar comportamiento malicioso examinando cambios dentro de los pesos del modelo. En algunos experimentos, los autores bloquearon hasta el 100% de los ataques de backdoor con tasas de falsos positivos inferiores al 1%, y detectaron intentos de recuperar conocimiento eliminado en más del 95% de los casos. Es la clase de evidencia técnica que Goodfire intenta operacionalizar a escala.

El debate de fondo no es nuevo. Geoffrey Hinton, Nobel y considerado el «padrino de la IA», recordó en un discurso reciente que «una vez que tienes los pesos, puedes ajustarlos para hacer cosas malas» y que «ajustar un modelo open-source es bastante fácil», según Cointelegraph. Ilya Sutskever, cofundador y ex chief scientist de OpenAI, dijo ya en 2023 que «simplemente no tiene sentido abrir el código» de estos modelos. En el lado opuesto, la posición de OpenAI en su blueprint de política federal de junio de 2026 propone evaluaciones obligatorias de modelos en general —un marco que, en la práctica, afectaría a cualquier lanzamiento open-weight de frontera.

¿Qué significa esto para tu startup?

Si tu producto depende de un modelo open-weight —para reducir costos, evitar lock-in o por soberanía de datos— esta alianza te interesa por tres motivos concretos:

Prepárate para auditorías de pesos, no solo de comportamiento. El estándar que plantea Base Labs apunta a monitorizar los pesos, no solo los outputs. Empieza hoy a documentar qué modelo base usas, qué fine-tuning aplicas y qué pruebas de seguridad ejecutas antes de cada release. Cuando un estándar así madure, los que ya tengan ese historial tendrán una ventaja clara en ventas enterprise.
Diversifica tu stack de seguridad defensiva. El caso Hugging Face es la prueba: en mitad de un ataque real, depender de un único proveedor comercial puede dejarte sin capacidad de respuesta. Tener un modelo open-weight corriendo en tu propia infraestructura, listo para tareas forenses o de análisis, ya no es paranoia, es redundancia operativa. El propio Hugging Face lo recomienda explícitamente: «ten un modelo capaz, listo para correr en tu propia infraestructura, verificado y preparado antes de un incidente».
Vigila el licenciamiento del modelo base que elijas. El caso GLM-5.3 muestra que la licencia de Z.AI permite modificaciones, derivados y ofertas comerciales tipo «Model as a Service». Si estás eligiendo un modelo open-weight para construir producto, revisa no solo el rendimiento, sino qué permite su licencia y qué no. Una licencia permisiva hoy puede cerrar mercados enterprise mañana si el modelo se vuelve controversial.