Meta AI pidió datos de hijas a una usuaria y rectificó

Meta AI y el límite que no debió cruzarse

El asistente de inteligencia artificial de Meta quedó en el centro de una nueva polémica por privacidad después de que la creadora Kalie Robins publicara un video en Instagram mostrando cómo el chatbot le sugirió preguntas sobre sus hijas menores de edad, incluyendo sus edades y la ciudad donde vive la familia. Meta reconoció el error y anunció cambios en los prompts que sugiere su IA. La vocera Dina El-Kassaby dijo a The Verge que la empresa "falló" ("missed the mark") y que la función "jamás debió haberle hecho preguntas como esas" a la usuaria.

¿Qué pasó exactamente?

Según la reconstrucción de The Verge, Robins había cruzado un clip de YouTube a Facebook en el que aparecía cantando en el coche con una de sus hijas. Debajo del video apareció la sugerencia automática "Who is the child passenger?" ("¿Quién es la niña pasajera?"). Al seleccionarla, Meta AI ofreció prompts adicionales con las edades de las menores y la ubicación de la familia, e incluso mostró fotos de las niñas publicadas en la plataforma, incluyendo una que, según Robins, había eliminado años atrás.

Meta argumenta que la respuesta se construye a partir de información a la que el propio usuario ya tenía acceso dentro de sus publicaciones y las de sus familiares, y que el sistema pudo haber identificado los nombres de las niñas en videos anteriores. La empresa asegura que ya corrigió el problema que disparaba esos prompts sobre temas personales.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

No es un caso aislado: la trayectoria de Meta con la IA invasiva

Este episodio se suma a una secuencia creciente de controversias de Meta con su IA generativa:

En julio de 2026, Meta retiró una función que permitía a los usuarios crear deepfakes de otros perfiles de Instagram tras una fuerte reacción pública, según recuerda The Verge.
En paralelo, las Meta AI Glasses (gafas inteligentes con cámara integrada) han crecido tanto en ventas que espacios públicos como escuelas, tribunales y restaurantes han comenzado a prohibirlas. Según Ars Technica, los propios organizadores de DEF CON 2026 vetaron el uso de smart glasses en el evento, incluso las graduadas como anteojos recetados.
La Electronic Frontier Foundation (EFF) advirtió que Meta parece dispuesta a hacer la tecnología aún más invasiva para sostener su ventaja competitiva, incluyendo posibles funciones de reconocimiento facial que podrían usarse para crear deepfakes o imágenes íntimas no consensuadas, según declaró el tecnólogo de EFF Cooper Quintin a Ars Technica.

El patrón es claro: la compañía empuja la frontera de lo técnicamente posible y luego retrocede cuando la presión social se vuelve insostenible.

¿Por qué importa a un founder?

Más allá del escándalo, hay tres lecciones operativas que cualquier startup que integre IA generativa debería llevarse:

El entrenamiento con datos del usuario es un arma de doble filo. Meta AI pudo conectar puntos entre publicaciones propias, de familiares y metadatos eliminados. Si tu producto usa datos personales como insumo, diseña desde el día uno qué inferencias están permitidas y cuáles no. La capacidad técnica no equivale a permiso.
La sugerencia proactiva amplifica el daño. No fue la usuaria quien pidió información sobre sus hijas; fue el sistema quien la ofreció. Cualquier interfaz que anticipe intenciones debe tener un "modo pasivo" donde las sugerencias sobre terceros —especialmente menores— vengan deshabilitadas por defecto.
La confianza se pierde más rápido que con la que se gana. Meta necesitó apenas un video viral para retroceder. Una startup en fase de tracción no tiene ese colchón: un solo incidente con datos de niños puede significar el fin de partnerships enterprise y problemas regulatorios en mercados como la UE o LATAM.

Qué significa esto para tu startup

Si tu producto incorpora IA conversacional o procesamiento de contenido generado por usuarios, este caso es un manual de qué no hacer. Algunas acciones concretas:

Audita los prompts proactivos. Revisa si tu sistema genera sugerencias que el usuario no pidió y que involucren a terceros. Si lo hace, añade una capa de revisión o desactívalo por defecto.
Implementa detección de menores. Tanto si el contexto es explícito (fotos, videos) como inferido (menciones en texto), bloquea cualquier generación de información identificable cuando hay indicadores de que un menor está involucrado. La COPPA en EE. UU. y el GDPR en Europa tienen estándares estrictos sobre esto.
Prepara un protocolo de respuesta en 24 horas. Ten un canal claro para que los usuarios reporten incidentes de privacidad y un equipo capaz de responder en menos de un día, como hizo Meta —pero idealmente antes de que el caso se vuelva viral.
Documenta el "por qué" de cada inferencia. Si tu IA conecta datos de distintas fuentes para generar una respuesta, que esa lógica sea trazable y explicable. Cuando llegue el regulador, "la caja negra" no es defensa.