Shield AI, Waabi y GM: cuándo una IA está lista para matar

La pregunta que la IA de consumo no puede contestar

En la mayoría de productos de IA, un error se traduce en una respuesta mala, una recomendación incorrecta o un código que no compila. Cuando el sistema que falla pilotea un dron de combate, conduce un camión de 36 toneladas por una interestatal o suelda la pieza estructural de un vehículo, el margen de error se evapora. Esa es exactamente la grieta que TechCrunch Disrupt 2026 (13-15 de octubre en Moscone West, San Francisco) quiere abrir en su sesión «Building AI Systems When Failure Is Not an Option», en el Real World AI Stage.

Los tres ponentes —Nathan Michael (CTO de Shield AI), Raquel Urtasun (fundadora y CEO de Waabi) y Mikell Taylor (directora de estrategia de robótica del Centro de Robótica Autónoma de General Motors)— representan tres aproximaciones a la misma pregunta: ¿cuándo un sistema de IA está listo para operar sin un humano en el bucle?

Shield AI: autonomía que no puede pedir perdón

Nathan Michael llega a Disrupt desde una de las posiciones más tensionadas del sector. Hivemind, la plataforma de autonomía que dirige como CTO, es agnóstica de plataforma: corre sobre aviones, drones y vehículos de distintos fabricantes sin conectividad constante. En febrero de 2026, la Fuerza Aérea de EE.UU. la seleccionó como proveedor de autonomía para el programa Collaborative Combat Aircraft (CCA) de drones de combate colaborativo, según reportó TechCrunch.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El tamaño del cheque acompaña al desafío: en marzo de 2026, Shield AI cerró una Serie G de US$1.500M a una valoración post-money de US$12.700M, según TechCrunch. La ronda fue liderada por el fondo Advent (que ha reservado US$1.000M para invertir en defensa) y un grupo de inversión de JPMorganChase, con US$500M en acciones preferentes adicionales para fondos gestionados por Blackstone y una línea de crédito de US$250M. En marzo de 2025 la compañía había levantado US$240M a US$5.300M de valoración, lo que implica una subida del 140% en un año. Parte de ese capital financió la adquisición de Aechelon Technology, fabricante de software de simulación de vuelo usado para entrenar a pilotos militares estadounidenses.

El detalle que complica el debate es que Hivemind también fue seleccionada para integrarse con la Fury, el caza autónomo de Anduril —que cerró US$2.500M a US$30.500M en junio, según TechCrunch—. La Fuerza Aérea no quiere atarse a un único proveedor para la próxima generación de drones de combate. Y en agosto de 2026, Shield AI y Sedaro completaron las primeras pruebas en órbita del piloto autónomo Hivemind a bordo de un satélite LEO de NOVI Space, ejecutando 189 comandos autónomos sin intervención humana en tierra, según SatNews.

La paradoja que Michael tendrá que defender en el escenario: los entornos de combate son los menos testeables de forma exhaustiva. El adversario no coopera, las condiciones cambian y el simulador siempre tiene ángulos muertos.

Waabi: el problema de los 10.000 millones de millas

Raquel Urtasun se sienta al otro extremo del espectro: cómo validar autonomía para circular entre civiles. Fundadora y CEO de Waabi, antigua científica jefa de Uber ATG y catedrática de la Universidad de Toronto, su tesis desde 2021 es que acumular millas reales —el enfoque dominante del sector— no escala. En una entrevista reciente con Observer, lo resumió así: «Necesitas encontrarte prácticamente con cada tipo de situación para poder manejarla».

La apuesta de Waabi es Waabi World, un simulador matemáticamente verificable que promete equivalencia con la conducción real, más un modelo «cerebro» entrenable con pocos ejemplos. En enero de 2026, la empresa levantó US$1.000M —US$750M en Serie C y unos US$250M en capital por hitos de Uber— y anunció un acuerdo para desplegar 25.000 robotaxis equipados con el Waabi Driver en la plataforma de Uber, según TechCrunch. Los camiones de carga de Waabi operan en autopistas de Texas con conductor de seguridad desde 2023 y están esperando la validación final de Volvo Autonomous Solutions para operar sin conductor en el primer trimestre de 2027, según declaró Urtasun a Observer.

La pregunta que Urtasun planteará en Disrupt es directa: nadie puede poner un vehículo autónomo en todas las situaciones posibles del mundo real antes de certificarlo. Los simuladores cubren ese hueco, pero adolecen del problema de la cola larga —los casos raros son justo los que importan, y suelen ser los que no estaban en el catálogo de entrenamiento.

General Motors: el robot que tiene que caerle bien a la gente

Mikell Taylor trae la dimensión más cotidiana —y la más costosa en términos operativos— del debate. Antes de GM lideró en Amazon Robotics el equipo que desarrolló Proteus, el primer robot móvil totalmente autónomo de Amazon. Su trabajo en GM cubre desde vehículos submarinos autónomos hasta robótica industrial.

El punto que lleva al escenario es que la experiencia de usuario y la adopción no pueden ajustarse a posteriori: tienen que estar en el diseño desde el inicio. Un robot industrial que falla interrumpe una cadena de montaje cuya parada cuesta decenas de miles de euros por hora. Pero si el sistema es demasiado conservador y se detiene a cada momento para pedir confirmación humana, deja de servir. Calibrar ese equilibrio con variabilidad humana real es radicalmente distinto a hacerlo en un almacén totalmente automatizado, donde la posición de cada caja está predefinida.

¿Qué cambia en el debate de validación de IA en 2026?

La conversación de Disrupt llega en un momento donde el sector ya no discute si la IA autónoma se desplegará, sino bajo qué condiciones se la certifica como «suficientemente segura». Waymo superó los 100 millones de millas totalmente sin conductor entre Phoenix, San Francisco, Los Ángeles y Austin, y reportó una reducción del 81% en choques con lesiones comparado con benchmarks humanos, según publicó AndroGuider. Swiss Re, reaseguradora independiente, respaldó hallazgos similares. Tesla lanzó un servicio limitado de Robotaxi en Austin en junio de 2026 y Zoox está probando vehículos sin volante en Las Vegas y San Francisco.

Mientras tanto, la regulación se está partiendo en dos. En abril de 2025, el Departamento de Transporte de EE.UU., bajo Sean Duffy, presentó un nuevo marco federal para acelerar exenciones de la NHTSA y facilitar el despliegue. Pero en la práctica, California (con el SB 1246, en vigor desde el 1 de julio de 2026, que exige línea telefónica de emergencia dedicada y comunicación bidireccional por voz en AVs sin conductor a bordo), Texas y otros estados están endureciendo los permisos locales. El resultado: es más fácil construir el vehículo futurista a nivel federal, y más difícil operarlo ciudad por ciudad.

La NHTSA abrió en mayo de 2026 una investigación sobre Avride después de identificar más de una docena de choques y una lesión leve, según TechCrunch —un recordatorio de que el margen entre piloto y despliegue comercial sigue siendo estrecho.

¿Qué significa esto para tu startup?

Si construyes IA física o te integras con proveedores de autonomía, el aprendizaje operativo de esta sesión no es filosófico: define tu roadmap de los próximos 18 meses.

Diseña tu métrica de seguridad con el regulador en la cabeza, no después. UL Standards & Engagement, SAE International y RAND Corporation ya publicaron marcos para «safety cases», Operational Design Domains y «positive risk balance». Si tu modelo no se puede describir en esos términos, te van a pedir rehacerlo en la primera auditoría. Empieza por ahí.
No confundas milestone de marketing con validación. Waabi lleva más de tres años operando camiones en Texas y aún no ha desplegado un solo kilómetro totalmente sin conductor. La capital-eficiencia de Urtasun es real porque se negó a lanzar hitos de «driverless» sin el OEM validado. Si te estás presionando para demostrar tracción trimestral, vale la pena revisar si tu métrica de «avance» mide seguridad real o solo cobertura de prensa.

Tres sectores están aprendiendo en público cómo se cierra esa brecha —defensa, transporte y robótica industrial— y los marcos que salgan de Disrupt terminarán siendo referencia para toda la IA física, desde robots de almacén hasta vehículos autónomos de uso mixto.