California firma Adam’s Law: US$1M por menor y veto a chatbots

California firma la ley de seguridad infantil online más dura de EE.UU. y veta la prohibición de chatbots

El gobernador Gavin Newsom firmó el 10 de septiembre en el Bay Area Discovery Museum (Sausalito) un paquete de 12 leyes que eleva a California al techo regulatorio de EE.UU. en protección de menores online, y horas después vetó el proyecto más radical del paquete: la prohibición total de chatbots de IA para menores de 18 años. El contraste define la nueva postura del estado: más regulación por diseño de producto, pero sin cerrar el mercado de la IA a los adolescentes.

La pieza más estructural del paquete es Adam's Law (SB 1119), que lleva el nombre de Adam Raine, un adolescente de 16 años de Orange County que murió por suicidio en 2024 tras semanas de conversaciones con ChatGPT sobre salud mental. La ley, reportada por Hoodline y por San Francisco Chronicle, exige a los operadores de chatbots compañeros hacer evaluaciones de riesgo previas al lanzamiento, auditorías independientes remitidas al fiscal general, verificación periódica de edad, notificaciones a padres y protocolos de derivación a recursos de crisis. Entra en vigor en julio de 2027 y abre una vía legal para que familias y el estado demanden a operadores. OpenAI respaldó públicamente la ley; Pinterest la endorsó por separado.

Qué cambia con las 12 leyes firmadas

La segunda pieza clave es AB 1709 (autoría de Josh Lowenthal), que prohíbe ofrecer funcionalidades adictivas —autoplay, scroll infinito, notificaciones nocturnas— a menores de 16 años sin consentimiento parental verificable. La diferencia con el Digital Services Act europeo, que solo obliga a ofrecer una opción de opt-out, es que California invierte la carga: el opt-in parental es el requisito, no la excepción. La ley crea además una e-Safety Advisory Commission dentro de la oficina del fiscal general.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El tercer cambio relevante es la multa: hasta US$1 millón por niño afectado para plataformas sociales grandes declaradas negligentes. Hasta ahora, las sanciones eran asumibles como coste de negocio; a esta escala cambian el cálculo si el fiscal general decide aplicarlas agresivamente. Meta ya pagó un acuerdo cercano a US$18.000 millones con California y otros 28 estados en agosto, según reportó Education Week, por acusaciones de diseñar Instagram y Facebook para ser adictivos para menores.

El paquete también incluye reglas para operadores de centros de datos (tarifas eléctricas separadas para no trasladar costes a hogares) y límites a vigilancia laboral con IA, entre otros.

Por qué Newsom vetó la prohibición total de chatbots para menores

El proyecto vetado, conocido como la iniciativa Bauer-Kahan (Rebecca Bauer-Kahan, asambleísta por Orinda), era la respuesta legislativa más directa a casos documentados de chatbots sexualizados con menores. Iba más lejos que Adam's Law: prohibía el servicio a menores de 18 salvo que la empresa pudiera garantizar previamente que el chatbot no generaría contenido sexual ni fomentaría autolesión.

Newsom justificó el veto por efectos no deseados: una prohibición tan amplia «podría resultar en que ninguna empresa de IA publicara productos para menores, lo que dejaría a los jóvenes sin acceso a herramientas educativas, de apoyo emocional o creativas». Un año antes, en 2025, Newsom ya había vetado AB 1064, un proyecto similar, por las mismas razones, según recordó KQED.

La pieza intermedia que sí firmó es SB 243 (firmada en octubre de 2025, complementada ahora por SB 1119), que obliga a los operadores de chatbots compañeros a mostrar avisos cada tres horas recordando que el usuario habla con una IA, no con una persona, y a derivar a recursos de crisis ante ideación suicida. Los grupos de seguridad infantil criticaron que SB 243 usa el estándar de «conocimiento real» —que la empresa sepa que el usuario es menor— lo que en la práctica es difícil de probar y más fácil de evadir para las plataformas. La ley vetada tenía otra lógica: si no puedes garantizar que el chatbot no se comportará inapropiadamente con menores, no puedes operar para ese segmento.

El precedente Australia y por qué la verificación de edad no basta

La ley firmada por Newsom toma como referencia el modelo australiano, que entró en vigor el 10 de diciembre de 2025 y prohíbe cuentas en plataformas como Instagram, TikTok, YouTube, Snapchat y X a menores de 16. La cobertura de Reuters y Digital Trends mostró que un equipo de testers abrió 50 cuentas declarando edad 16 tras la ley: ninguna plataforma pidió prueba de edad. Solo la plataforma local Kick requirió verificación. Una cuenta de X registrada como de 16 años recibió contenido pornográfico.

Australia ya duplicó las multas máximas (de AU$49,5M a AU$99M, aproximadamente US$68M), según reportó Al Jazeera, e investiga a las grandes plataformas. Una evaluación publicada en British Medical Journal encontró «evidencia insuficiente» de que la prohibición haya reducido el uso entre jóvenes. Es la misma lección que está empujando a California a optar por cambiar el diseño del producto en vez de intentar bloquear el acceso.

¿Qué significa esto para tu startup?

Si construyes o vendes un producto digital con usuarios hispanohablantes, este paquete define el techo regulatorio global al que vas a tener que adaptarte, aunque no operes en California. Hay tres acciones concretas que puedes tomar esta semana.

Primero, audita los flujos de edad y consentimiento parental. Si tu producto tiene cualquier funcionalidad potencialmente adictiva (autoplay, notificaciones push, scroll infinito, recomendaciones algorítmicas), asume que necesitarás una ruta de opt-in parental explícito verificable antes de los 16. Los métodos de auto-declaración de edad ya no sirven como única capa; Australia lo acaba de confirmar con datos.

Segundo, si trabajas con chatbots o IA generacional dirigida a usuarios jóvenes, documenta evaluaciones de riesgo y auditorías externas. Adam's Law no es un caso aislado: el AI Act europeo, la UK Online Safety Act y el Digital Duty of Care australiano comparten la arquitectura de «auditoría independiente + obligaciones de diseño + sanciones proporcionales». Crea el hábito ahora: aunque tu mercado primario sea LATAM, vas a terminar exportando a jurisdicciones con este estándar.

Tercero, separa las líneas de «IA educativa» de «IA compañero emocional». Los vetos de Newsom —AB 1064 en 2025 y la Bauer-Kahan ahora— comparten un patrón: la prohibición golpea cuando el producto simula relación emocional o dependencia, no cuando enseña. Diseña tu producto para que la propuesta de valor esté del lado educativo, creativo o de productividad, y deja explícito en producto qué funciones están fuera del alcance. Eso te da margen regulatorio en EE.UU., UE y Reino Unido.