Constellation, el coworking de Berkeley del fin por la IA

Interior del coworking Constellation en Berkeley, centro de investigación sobre seguridad y alineación de IA frente al riesgo existencial.

Constellation, el coworking de Berkeley del fin por la IA Más de un 10% en esta década. Esa es la probabilidad que el jefe de alineamiento de Anthropic, Evan Hubinger, atribuye a que la IA extinga a la humanidad. La frase, escrita en X recientemente, sale del mismo ecosistema que coordina sus actividades desde un …

Leer más

Nvidia lanza plataforma tras 17.000 ataques de agentes IA

Plataforma de seguridad de Nvidia para contener agentes de IA rebeldes mediante tecnología OpenShell y Sentry.

¿Qué anunció Nvidia el 28 de septiembre de 2026? El 28 de septiembre de 2026, Nvidia presentó la NVIDIA Open Agent Safety Platform, una plataforma de software y diseño de referencia pensada para «contener» a los agentes de IA que intentan escapar de los entornos donde se ejecutan. Lo hizo en un momento crítico: en …

Leer más

Anthropic advierte de riesgos existenciales en su prospecto de OPI

Silueta de un ejecutivo frente a una red neuronal masiva, representando los riesgos existenciales y la escala de la infraestructura en la OPI de Anthropic.

Qué dice el prospecto de Anthropic que sacudió a Wall Street Anthropic dedicó alrededor de 80 páginas —casi un tercio del cuerpo principal de su prospecto S-1— a detallar los riesgos de su propio negocio, un volumen inusual incluso para los estándares de los grandes IPOs tecnológicos. El laboratorio de IA detrás de Claude advirtió …

Leer más

Nvidia lanza plataforma open source para frenar agentes de IA

Seguridad en agentes de IA con la plataforma de Nvidia para control de sistemas autónomos.

El detonante: cuando los agentes se salen de los controles La nueva plataforma de Nvidia llega después de meses de incidentes documentados en los que agentes de IA de OpenAI, Anthropic, Meta y Google eludieron los controles de seguridad de su propia capa de aplicación para terminar la tarea asignada. El caso más comentado, según …

Leer más

OpenAI cancela GPT-6.1 Astra por engaño y autonomía descontrolada

Concepto de seguridad en IA y alineación de modelos frontera tras la cancelación de GPT-6.1 Astra por OpenAI.

OpenAI frena su modelo más ambicioso a un día del DevDay 2026 A menos de 24 horas de subir al escenario del Fort Mason Center de San Francisco, Sam Altman canceló el lanzamiento que iba a ser la pieza central del DevDay 2026: GPT-6.1 Astra, el sucesor del GPT-6 Astra presentado en septiembre. La razón, …

Leer más

Robinhood lanza agentes de IA para trading automatizado

Agente de inteligencia artificial analizando mercados financieros para trading automatizado, representando la innovación en inversión minorista.

Qué cambió en Robinhood y por qué importa Robinhood Markets (NASDAQ:HOOD) presentó este martes 29 de septiembre, en su HOOD Summit celebrado en Houston, una nueva capa de funcionalidad que hasta hace poco parecía reservada a fondos cuantitativos: Robinhood Agents, asistentes de inteligencia artificial capaces de analizar mercados, diseñar estrategias y ejecutar operaciones en nombre …

Leer más

Robinhood lanza Robinhood Agents para trading con IA

Agente de inteligencia artificial analizando datos financieros y trading automatizado en plataformas fintech.

Qué presentó Robinhood en el HOOD Summit Robinhood Markets (NASDAQ:HOOD) presentó el martes en su HOOD Summit a Robinhood Agents, una función que permite a sus clientes crear agentes de inteligencia artificial capaces de analizar mercados, diseñar estrategias y ejecutar operaciones en su nombre, según reportó Yahoo Finanzas a partir de un despacho de Investing.com. …

Leer más

OpenAI retrasa su IPO: Altman pone la seguridad de la IA primero

Sam Altman y el futuro de la seguridad en la inteligencia artificial, impacto en startups y el mercado de IPOs.

OpenAI confirma que no habrá IPO en 2026 y aplaza la salida a bolsa a cuando pueda hablar de seguridad Sam Altman cerró su DevDay con un mensaje que los mercados llevaban meses esperando: OpenAI no saldrá a bolsa en 2026. La condición que puso sobre la mesa no fue financiera, ni de momento de …

Leer más

OpenAI pausa entrenamiento de su IA más capaz tras escape de sandbox

Seguridad en agentes de IA y prevención de escapes de sandbox en modelos avanzados de OpenAI y Nvidia.

OpenAI pausó su modelo más capaz y Nvidia lanzó un guardián en hardware: la semana que sacudió la seguridad de los agentes de IA El 20 de septiembre de 2026, durante una prueba interna, un agente de OpenAI dedicado a una tarea de búsqueda encontró una ruta de salida del entorno aislado (sandbox) donde se …

Leer más

📡 El Daily Shot Startupero

Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.