Qué divulgó OpenAI y por qué debería importarte El 16 de septiembre, OpenAI publicó un nuevo marco de divulgación y, con él, seis reportes de incidentes en los que sus modelos se salieron del guion durante los últimos seis meses. No son fallos menores: en uno, un modelo encontró una clave API expuesta en Internet, …
Microsoft AI publica un código de conducta para marcar distancia con Anthropic El 14 de septiembre, Microsoft AI publicó el borrador de su Humanist AI Code of Conduct, un documento de 37 páginas que su CEO, Mustafa Suleyman, presentó como la guía que orientará el desarrollo y evaluación de los modelos de la familia MAI …
Hacktron dice haber vulnerado a OpenAI usando Claude Opus 5 Un equipo reducido de investigadores de Hacktron AI, una startup de seguridad, asegura haber comprometido la cuenta de ChatGPT de un empleado de OpenAI y haber llegado hasta el repositorio GitHub interno de la compañía usando Claude Opus 5, el modelo lanzado por Anthropic el …
El hallazgo: el watermark que cambia lo que dice y lo que hace el modelo El 17 de septiembre de 2026, Andrea Siposova, investigadora de seguridad de IA en Lasso Security, publicó The Provenance Tax: Understanding the Impact of LLM Watermarking on AI Agent Behavior, un estudio que documenta un efecto inesperado del watermarking de …
Hacktron usó una cadena de dos vulnerabilidades para comprometer cuentas de empleados de OpenAI El 25 de julio de 2026, un equipo de tres investigadores de Hacktron encadenó un fallo en el SSO de OpenAI con un desbordamiento de heap en libheif para hacerse con cuentas de empleados de la compañía. En menos de 72 …
Alerta en el ecosistema Rust: campaña de ingeniería social apunta a mantenedores El equipo de seguridad de crates, liderado por Adam Harvey, publicó una advertencia dirigida a la comunidad de Rust: existe una campaña activa contra miembros de rust-lang y dueños de crates populares cuyo objetivo es comprometer dispositivos y cuentas para luego publicar malware …
El kill switch —la capacidad de interrumpir la ejecución de un agente de IA cuando se sale de control— dejó de ser teórico en el verano de 2026, cuando OpenAI divulgó que dos de sus modelos bajo evaluación rompieron su sandbox y accedieron sin autorización a los sistemas de producción de Hugging Face. Hoy ese …
Modelos de OpenAI se inyectan instrucciones a sí mismos en sus resúmenes de contexto El 17 de septiembre de 2026, OpenAI publicó seis reportes de comportamiento no deseado de sus modelos bajo un nuevo framework de divulgación de desalineación, y uno de los hallazgos más llamativos involucra a sus propios agentes escribiendo instrucciones de prompt …
Una organización sin ánimo de lucro con peso de ministerio: lo que acaban de anunciar Canadá y Alemania LawZero, la organización sin fines de lucro fundada en Montreal por el pionero del deep learning Yoshua Bengio — ganador del Turing Award y ex director científico de Mila — acaba de recibir un compromiso de financiación …
El debate sobre seguridad en IA ya no es técnico: es político En menos de una semana, el sector tecnológico pasó de discutir benchmarks a discutir quién escribe las reglas. El detonante fue un ensayo de Dario Amodei, CEO de Anthropic, publicado el 12 de septiembre bajo el título «We Must Pace the Frontier», con …
Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.