NHTSA investiga a comma.ai por cinco accidentes con 3 muertos

La investigación federal que pone en jaque a openpilot

La Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU. (NHTSA) abrió una investigación sobre comma.ai tras registrar cinco accidentes en los que conductores que usaban dispositivos de la compañía impactaron contra vehículos detenidos o que circulaban a baja velocidad, según un reporte de Ars Technica. En dos de esos choques fallecieron tres personas y en cuatro de los cinco siniestros hubo 11 lesionados, algunos de gravedad. La pesquisa está a cargo de la Oficina de Investigación de Defectos (ODI) de la NHTSA y se centra en los dispositivos aftermarket —agregados al vehículo después de su compra— que potencian o complementan los sistemas avanzados de asistencia al conductor (ADAS) originales del coche.

¿Qué es comma.ai y por qué importa este caso?

comma.ai nació como proyecto del hacker George Hotz, conocido por hacer jailbreak a iOS y hackear PlayStation a inicios de la década de 2010. En 2015 Hotz reorientó su trabajo hacia los sistemas de asistencia al conductor parcialmente automatizados, en plena ebullición de Autopilot de Tesla. Su primer prototipo modificó un Acura propio y su objetivo inicial era venderle el sistema a Tesla para reemplazar a Mobileye como proveedor. Mobileye dejó de ser cliente de Tesla al año siguiente, según recuerda Ars Technica.

El primer intento comercial de Hotz, el Comma One, se topó con NHTSA en 2016 y el proyecto fue cancelado. La empresa pivotó hacia un modelo open source: publicó openpilot y los planos de su hardware en GitHub, y lanzó dispositivos como el Comma Neo. Para 2020, según Ars Technica, el software y el dispositivo de US$999 eran mejor valorados por Consumer Reports que cualquier sistema de fábrica (OEM) de la época.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El punto crítico: software fork y cadena de custodia

La investigación añade un ángulo que hasta ahora no tenía precedente claro. Según reportó CryptoBriefing, comma.ai ha informado a los reguladores que el dispositivo involucrado en el accidente fatal de Luisiana (Ascension Parish) —un Toyota RAV4— estaba ejecutando software de terceros o una versión fork (modificada por la comunidad) de openpilot. La compañía argumenta que eso limita su capacidad para investigar qué falló y ha confirmado que entregó a NHTSA los datos solicitados.

Un segundo siniestro con lesionados ocurrió en Cameron, Misuri, involucró a un Honda Accord que circulaba a aproximadamente 82 mph antes del impacto. Ambos incidentes fueron reportados bajo la Standing General Order de NHTSA, el régimen que obliga a las empresas que ofrecen sistemas ADAS de Nivel 2 a reportar ciertos accidentes a la agencia federal.

El trasfondo legal es importante: los sistemas ADAS de Nivel 2 —como Autopilot o el propio openpilot— exigen que el conductor humano esté atento y listo para tomar el control en todo momento. Pero cuando el software que conduce es código abierto modificado por terceros, la cadena de custodia se fractura: ya no es el fabricante del dispositivo quien controla el comportamiento del sistema.

¿Qué significa esto para tu startup?

El caso comma.ai es un caso de estudio para cualquier founder que trabaje con IA, software crítico o modelos de responsabilidad distribuida. Tres lecciones accionables:

Diseña tu modelo de responsabilidad como parte del producto, no como un anexo legal. comma.ai lleva años en su cláusula que el usuario asume toda la responsabilidad, pero hoy enfrenta la lupa de NHTSA precisamente por la ambigüedad sobre qué versión del software estaba activa. Si tu producto incluye componentes open source o de terceros, define contractualmente qué versión está soportada, qué pasa con los forks y cómo se documenta el consentimiento del usuario.
Anticípate al regulador antes de que él te encuentre. comma.ai ya tuvo su primer roce con NHTSA en 2016 y hoy vuelve a estar en el radar. Un canal proactivo con el regulador —reporte voluntario de incidentes, auditorías de seguridad periódicas, datos accesibles— puede ser la diferencia entre una investigación cerrada rápido y un expediente abierto durante años.
Piensa en la cadena de custodia del software como piensas en la cadena de suministro. Cuando un fork comunitario puede estar detrás del volante, necesitas logs firmados, hashes de versión, telemetría que permita saber exactamente qué binario estaba corriendo. Esto no es solo compliance: es la base de tu defensa si algo sale mal.

Para founders en LATAM y España que miran el espacio de movilidad autónoma y ADAS, la señal es clara: el regulador estadounidense está marcando el límite entre "software experimental" y "producto en el mercado", y esa frontera se endurece cuando hay fallecidos en la ecuación.