Meta: reglas de IA son «inadecuadas» y retira 2 deepfakes

El Consejo de Supervisión de Meta califica sus reglas de IA de «fundamentalmente inadecuadas»

El Consejo de Supervisión de Meta —el «tribunal supremo» cuasi-independiente que la empresa creó en 2020 para resolver disputas de contenido— emitió el 17 de septiembre dos resoluciones que ordenan a Meta retirar sendos vídeos deepfake de Facebook y publicó nueve recomendaciones de política que apuntan al origen del problema: las propias reglas de la compañía para gestionar contenido generado por IA. La co-presidenta del Consejo, Pamela San Martin, lo sintetizó con una frase que resume ambos casos: «Desde políticos hasta ciudadanas privadas, los deepfakes generados por IA se usan cada vez más para acosar y silenciar a las mujeres en el discurso público».

El dictamen es técnicamente una orden de retirada —vinculante—, pero la crítica más dura está en el diagnóstico: Meta sostiene una política «consistente y fundamentalmente inadecuada para abordar el rápido auge del contenido generado por IA». Meta tiene 60 días para responder a las nueve recomendaciones, aunque no está obligada a implementarlas: solo a justificar por qué las acepta o las rechaza.

¿Cuáles son los dos casos que motivaron el dictamen?

Los dos casos son distintos en víctima y mecanismo, y juntos ilustran por qué el problema es sistémico, no anecdótico.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El caso de la concejala escocesa. En noviembre de 2025, un usuario de Facebook publicó un álbum que incluía un vídeo deepfake de una concejala del Partido Laborista en Escocia. El clip, según recogió The Guardian, la mostraba diciendo: «Los refugiados son bienvenidos aquí, incluso si violan a nuestras mujeres, porque los blancos también lo hacen». El Consejo constató que el audio no estaba completamente sincronizado con los movimientos faciales, lo que apunta a manipulación con IA. Meta decidió que el contenido no violaba sus normas porque su política señala que las figuras públicas adultas no están «automáticamente protegidas frente a imágenes manipuladas no deseadas». El Consejo anuló esa decisión y ordenó la retirada, además de exigir una etiqueta de «IA de Alto Riesgo».

El caso de la activista musulmana. Una joven musulmana en Europa que participó en una campaña de educación sobre salud menstrual para mujeres y niñas de minorías étnicas fue blanco de vídeos e imágenes manipuladas con IA que la ridiculizaban —uno la mostraba haciendo ejercicios absurdos y comiendo comida basura— y acumularon decenas de millones de visualizaciones en plataformas de Meta. La propia Meta cerró automáticamente el primer reporte y la apelación. Solo retiró el contenido tras la intervención del Consejo, que determinó que el vídeo violaba la política de bullying y acoso.

Los dos problemas son estructuralmente distintos: el primero es una laguna de política sobre quién está protegido; el segundo, un fallo de moderación automatizada que cierra reportes válidos sin revisión humana. Las nueve recomendaciones intentan corregir ambos.

¿Qué piden exactamente las nueve recomendaciones?

Las recomendaciones se dividen entre los dos casos y comparten un hilo común: ampliar el alcance de la moderación al contenido generado por IA. Entre las más relevantes, según recoge The Guardian y el propio resumen del Consejo:

Bajar el umbral para las etiquetas de «IA de Alto Riesgo» más allá de las crisis y los ciclos electorales.
Introducir una pantalla de «clic-para-ver» antes de mostrar contenido marcado, en lugar de solo una etiqueta pasiva.
Degradar o desmonetizar el contenido marcado como alto riesgo, para que los algoritmos dejen de amplificarlo.
Penalizar a las cuentas que recompartan deepfakes de forma reiterada.
Publicar datos anuales de etiquetado, para que investigadores y reguladores puedan auditar el sistema.
Ampliar la definición de «imágenes manipuladas no deseadas» para cubrir deepfakes de personas privadas diciendo o haciendo cosas que nunca dijeron ni hicieron —un cambio que habría evitado el caso de la concejala.

¿Qué cambia con el AI Act europeo?

El contraste con la regulación europea es revelador. El AI Act activó el 2 de agosto de 2026 la obligación de etiquetar el contenido generado por IA que intenta parecer auténtico, bajo pena de multas de hasta 15 millones de euros o el 3% de la facturación global, según recoge TNW. La Comisión Europea también propuso un marcador visual uniforme —un círculo con las letras «AI»— para dar a los consumidores un símbolo reconocible en todos los Estados miembro. Más de 180 organizaciones firmaron ya un código de conducta voluntario, y la Comisión apunta al estándar técnico C2PA como referencia para el marcado de procedencia.

Es decir: el escenario que el Consejo de Supervisión denuncia —un deepfake de un político diciendo algo que nunca dijo, sin etiqueta— es exactamente la situación de mayor riesgo que el AI Act pretende abordar. Y en el caso de la concejala escocesa, fue la política interna de Meta la que decidió que no requería etiqueta.

La asimetría es importante. El Consejo de Supervisión es una instancia privada con poder limitado: puede dar una instrucción directa a Meta mañana mismo, pero si la empresa la ignora, no puede hacer que esa instrucción sea vinculante. Los reguladores europeos y brasileños, en cambio, pueden imponer multas y exigir cumplimiento, aunque con procesos más lentos. El Consejo de Meta puede ordenar; los reguladores pueden sancionar.

¿Cómo está respondiendo Brasil a los deepfakes?

El caso no es aislado. El Tribunal Superior Electoral de Brasil está esta misma semana intentando definir qué es un deepfake con apenas cinco semanas para las elecciones de octubre de 2026. La coincidencia temporal no es casual: en cualquier democracia con ciclos electorales, los deepfakes son la nueva frontera de la desinformación. Lo que el Consejo de Supervisión detecta en Meta es la versión de plataforma privada de un debate regulatorio que ocurre en paralelo en la UE, Brasil y buena parte del mundo.

¿Por qué importa esto a una startup?

Para un founder hispanohablante que construye con IA generativa, esta noticia tiene tres lecturas concretas.

1. Tus outputs ahora son contenido regulado. Desde el 2 de agosto, si tu producto muestra a usuarios europeos contenido generado por IA que parece real —vídeos, audios, imágenes, texto sobre asuntos de interés público— estás bajo el alcance del AI Act, según explica Tech Times. No importa si llamas a la API de OpenAI, Anthropic o Google: tu proveedor cubre sus obligaciones como proveedor de modelo; las tuyas como «deployer» son independientes y no delegables.

2. La velocidad de creación ya superó a la de detección. Crear un deepfake convincente está al alcance de cualquiera con un portátil y 15 minutos, según la guía de detección de deepfakes de 2026 publicada por wwwhatsnew.com. Mientras la detección automatizada no avance al mismo ritmo, la línea de defensa seguirá siendo la política de plataforma —y por extensión, la regulación. Si tu producto procesa contenido generado por usuarios, tarde o temprano tendrás que integrar verificación de procedencia.

3. La confianza como propuesta de valor. El segmento de detección de deepfakes acaba de ser reconocido por Gartner en su cuadrante de mercados emergentes de 2026, con la firma GetReal Security posicionada como «Market Shaper» en el eje de potencial de disrupción, según el comunicado distribuido por Yahoo Finance. La tesis del reporte es que la verificación de identidad continua, la inteligencia forense y la aplicación de políticas en tiempo real están pasando de capacidad especializada a capa fundamental de la ciberseguridad empresarial. Para una startup, esa categoría es una ventana: construir sobre la brecha entre generación y detección.

¿Qué significa esto para tu startup?

Audita cada punto de interacción con IA generativa que tenga un usuario europeo. Chatbots, generación de imagen, asistentes de voz, resúmenes de texto sobre temas públicos: cada uno necesita su propia divulgación, persistente y visible, no enterrada en términos legales.
Integra marcado C2PA o equivalente en tu pipeline de generación de contenido sintético si publicas en la UE. Es la referencia técnica que la propia Comisión Europea recomienda.
No confundas el retraso del Omnibus con un retraso general. El Digital Omnibus amplió el plazo para IA de alto riesgo hasta diciembre de 2027, pero no tocó las obligaciones de divulgación del Artículo 50. Empresa que pausó su preparación del AI Act pensando que tenía más tiempo está ahora mismo más expuesta que la que nunca revisó la regulación.