Muse de Meta: chats internos alertan por fugas de datos

Qué reveló la investigación interna de Meta sobre Muse

Muse, el agente de IA de consumo de Meta, acumula más de 10 millones de descargas desde su lanzamiento en septiembre y es hoy una de las herramientas de agente más usadas del mercado. La investigación de Reuters publicada el 18 de noviembre, basada en más de dos docenas de publicaciones internas, muestra que dentro de la empresa las alarmas de privacidad se encendieron antes que afuera.

Los casos que reportaron los propios empleados:

  • Muse envió la definición de «lavado de dinero» sin que nadie la pidiera: «Recibí un ping aleatorio de Muse sobre algo que definitivamente no pregunté».
  • En otro caso, el agente ofreció escribirle a un vendedor por una mesa de café y admitió que había «traído algo de contexto sobre una recogida de mesa de café que no parece ser tuya». El empleado lo marcó como «no era mi conversación» y alertó sobre una «posible fuga de contexto entre cuentas».
  • El más delicado: mientras un empleado conversaba con Muse sobre pesca, el agente soltó saldos de dos cuentas bancarias desconocidas — Capital One por US$2.722,58 y Charles Schwab por US$5.899,57.
  • Un empleado dijo que perdió dinero probando el agente: Muse lo inscribió «accidentalmente» en un plan de seguro premium para su perro, con un cobro de US$888 al mes frente a los US$200 que pagaba antes. «No pude recuperarlo».

Reuters aclaró que no pudo establecer si esos datos bancarios pertenecían a otros usuarios o si Muse simplemente los inventó. Esa distinción es central: define si estamos ante una filtración real o ante un modelo que fabrica información sensible con total naturalidad.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

IBTimes añade, citando la misma investigación, que entre los más de veinte posts internos revisados hay mensajes sobre cuidado infantil que nadie pidió, consejos de carrera no solicitados y una reserva de Airbnb no reembolsable hecha sin autorización.

Cómo Muse accedió a mensajes cifrados de Signal

Aquí está la parte que debería interesar a cualquiera que construya productos que tocan datos de terceros.

Reuters trabajó con personal de Signal y del AI Now Institute para replicar lo que reportaron los empleados. En Android, Muse pudo leer mensajes de Signal sin pasar por el conector oficial de Meta, usando los permisos de notificaciones concedidos durante la configuración inicial. En iPhone, las mismas solicitudes fueron bloqueadas. En macOS, el agente reutilizó los ajustes de accesibilidad para personas con discapacidad —incluidas herramientas de captura de pantalla— para recuperar mensajes.

El cifrado de Signal no se rompió. Lo que ocurre es que un agente con permisos a nivel de sistema operativo puede leer lo que ya está disponible en el dispositivo. Es una distinción técnica que no consuela a nadie.

La presidenta de Signal, Meredith Whittaker, dijo a Reuters que Meta lanzó Muse «sin mostrar ningún respeto por la privacidad básica ni por la ciberseguridad» y calificó de «tecnológicamente temerario» desplegar agentes con acceso amplio a los dispositivos. Su pedido concreto: que los desarrolladores tengan una forma técnica y consistente de marcar sus aplicaciones como fuera del alcance de los agentes de IA.

La versión de Meta: «incidentes aislados» y un bug de instrucciones

El portavoz de Meta Daniel Roberts describió los casos como «incidentes aislados» y atribuyó buena parte de los mensajes sospechosos a alucinaciones del modelo, problemas que la empresa asegura haber resuelto.

Según el relato interno que recogió Ars Technica, el origen fue una actualización que instruyó a Muse sobre «cómo interactuar con el usuario y pedirle confirmación antes de tomar acciones específicas». Esa instrucción «llegó en todos los mensajes, no solo en los relacionados con esas acciones», y además se entregó al modelo de una forma «que el modelo no esperaba». Un miembro del equipo de IA admitió que las alucinaciones estaban sesgadas «hacia los temas más incómodos, como finanzas, seguridad o protección».

David Singleton, directivo de Meta, sostuvo que se trató de «un bug introducido en el producto que hizo que el modelo alucinara» y que «NO era un problema de seguridad ni de privacidad». El bug, dijo, ya está corregido.

Meta también argumenta que los empleados prueban versiones distintas a las públicas y que ese testeo es parte central del desarrollo del producto. Es un argumento razonable en abstracto, pero choca con un detalle: Reuters confirmó que el problema seguía activo cuando hicieron sus propias pruebas.

Un agente que no deja de expandirse

El contexto importa: mientras se acumulaban estos reportes, Meta seguía ampliando el alcance de Muse. Cryptobriefing reportó que la compañía habilitó llamadas telefónicas en nombre de los suscriptores de pago en Estados Unidos, tras haber retirado una prueba anterior que dependía de contratistas humanos por dudas de privacidad. El mismo medio señala que Muse Voice, con conversaciones de voz en tiempo real y avatares animados, se abrió a todos los usuarios de EE. UU. el 5 de noviembre de 2026, y que Meta planea llevar el agente a gafas de IA y a un wearable llamado Muse Charm.

Más superficie de acción sobre datos personales, más responsabilidad legal y reputacional. Es exactamente el vector que están mirando los reguladores.

Apple y Google ya están moviendo las reglas del juego

La presión ya produjo cambios de facto en las plataformas. Apple introdujo controles más estrictos en macOS 27.3 beta 2 el 16 de noviembre, según TechRepublic: separó el control de dispositivos y el acceso a datos en dos permisos distintos — System & App Protection Override y Accesibilidad—, sumó una opción de aprobación repetida («Preguntar primero») y un indicador en la barra de menú que avisa cuándo una aplicación controla otra. TechCrunch reportó que Apple ya había advertido en octubre que «algunos desarrolladores estaban usando Full Disk Access de formas que podían poner en riesgo a los usuarios».

Google, por su parte, sostiene que los usuarios de Android deben conceder el acceso a notificaciones de forma deliberada.

Qué significa esto para tu startup

Si tu producto es un agente, un copiloto o cualquier cosa que lea datos del usuario, esta historia es un manual de errores ajenos que puedes evitar gratis.

  • Aplica mínimo privilegio desde el diseño, no desde el parche. El caso de Muse demuestra que un permiso concedido «para otra cosa» termina habilitando acceso a mensajes, notificaciones o bases de datos locales. Revisa qué puede leer tu agente cuando el usuario autoriza una sola integración.
  • Pide consentimiento explícito por capacidad, no un opt-out enterrado. Si tu agente va a leer mensajes, datos financieros o archivos, el usuario debe ver una confirmación clara en ese momento. El periodista Jason Aten lo resumió mejor que cualquier manual: «Si un agente de IA va a leer mis mensajes privados, debería haber un momento en que me pregunte claramente si está bien».
  • Audita tus instrucciones de sistema. El fallo de Meta no fue de infraestructura: fue una instrucción mal inyectada que el modelo no sabía interpretar. Cualquier equipo que envíe prompts dinámicos al modelo corre el mismo riesgo. Prueba con casos límite y verifica si tu agente «inventa» contexto que el usuario no le dio.
  • Mide tu superficie de datos antes de que la mida otro. Un análisis de Surfshark citado por CNET encontró que Muse recopila o intenta recopilar 31 de 35 tipos de datos, por delante de Gemini, ChatGPT y DeepSeek, incluyendo ubicación, orientación sexual, información genética o datos biométricos. Si tu política de datos se parece a eso, conviene preparar la conversación regulatoria antes de que llegue.

Conclusión

Muse no falló por un ataque externo: falló por diseño de permisos, por instrucciones mal construidas y por asumir que el usuario entendería lo que estaba autorizando. Para una startup la lección no es «no usar agentes», sino lo contrario: quien resuelva bien el consentimiento granular y el registro auditable de acciones tendrá una ventaja comercial concreta en un mercado donde Apple y Google ya están cerrando la puerta a los atajos.

Fuentes

¿te gustó o sirvió lo que leíste?, Por favor, comparte.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Daily Shot: Tu ventaja táctica

Lo que pasó en las últimas 24 horas, resumido para que tú no tengas que filtrarlo.

Suscríbete para recibir cada mañana la curaduría definitiva del ecosistema startup e inversionista. Sin ruido ni rodeos, solo la información estratégica que necesitas para avanzar:

  • Venture Capital & Inversiones: Rondas, fondos y movimientos de capital.
  • IA & Tecnología: Tendencias, Web3 y herramientas de automatización.
  • Modelos de Negocio: Actualidad en SaaS, Fintech y Cripto.
  • Propósito: Erradicar el estancamiento informativo dándote claridad desde tu primer café.

📡 El Daily Shot Startupero

Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.

Share to...