La IA agrava la desigualdad social, según SMU y Duke-NUS

¿Qué dice el estudio de SMU y Duke-NUS sobre los compañeros de IA?

Una investigación publicada en Nature Human Behaviour el 22 de septiembre de 2026, liderada por la Universidad de Administración de Singapur (SMU) y la Facultad de Medicina Duke-NUS, sostiene que el debate sobre los compañeros de inteligencia artificial está mal enfocado. "La pregunta más importante no es si la tecnología es beneficiosa o dañina, sino quién se beneficia, quién asume los riesgos y por qué esos resultados se distribuyen de forma tan desigual", afirmó Zhang Qiyang, profesor asistente de análisis del aprendizaje en SMU y primer autor del estudio.

El paper, titulado How AI companions could deepen social inequality, fue codirigido junto a Zhang Renwen, profesor asistente de la Wee Kim Wee School of Communication and Information de la Nanyang Technological University (NTU), y Liu Nan, profesora asociada del Centre for Biomedical Data Science de Duke-NUS, quien también dirige la Duke-NUS AI + Medical Sciences Initiative (DAISI). El equipo propone un nuevo marco de análisis en tres dimensiones: usuarios, diseño de plataforma y gobernanza, y descarta el enfoque simplista de buscar un único culpable.

¿Cómo profundiza la IA la desigualdad social?

El hallazgo central del estudio es que los compañeros de IA no afectan a todos por igual: profundizan las desigualdades existentes en lugar de nivelarlas. Las personas con vínculos familiares firmes y redes sociales activas tienden a usar estas herramientas como complemento: ensayar una conversación difícil, gestionar estrés o preparar una entrevista. En otras palabras, refuerzan capacidades que ya tienen.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

En cambio, quienes experimentan soledad, aislamiento social o dificultades para acceder a apoyo en salud mental recurren a la IA como sustituto de la conexión humana. Esta dependencia reduce las oportunidades de practicar conversaciones cotidianas y desencadena lo que los autores denominan "pérdida de habilidades sociales" (social deskilling): el deterioro gradual de las capacidades interpersonales por falta de práctica de interacción auténtica.

El patrón es directamente relevante para founders de productos conversacionales: el mismo chatbot puede ser un complemento para un usuario y un sustituto para otro, y la diferencia la determina el contexto social, no el código.

¿Qué es el modelo del queso suizo aplicado a la IA?

Para explicar la mecánica, los investigadores adaptaron el modelo del queso suizo, ampliamente usado en ingeniería y ciencias de la seguridad. La idea central es que los daños graves rara vez provienen de una sola falla: ocurren cuando varias capas de protección tienen debilidades que se alinean al mismo tiempo.

En este caso, las cuatro capas son:

Alfabetización digital en IA del usuario.
Redes de apoyo social disponibles fuera del entorno digital.
Decisiones de diseño de plataforma (UX, engagement, tono emocional).
Supervisión regulatoria.

Cada capa tiene "agujeros". Cuando coinciden, los grupos vulnerables quedan más expuestos. Esto cambia el debate: en lugar de buscar un responsable único (usuario, empresa o regulador), el estudio pide analizar cómo interactúan las cuatro dimensiones para producir efectos desiguales.

¿Por qué la gobernanza es el mayor hueco regulatorio?

De las cuatro capas, gobierno es la que los autores identifican como la principal brecha. La razón: aunque estos asistentes se usan cada vez más para apoyo emocional, en la mayoría de países siguen regulados como aplicaciones de consumo, no como tecnologías con implicaciones psicosociales o de salud mental.

El estudio recomienda reclasificarlos para habilitar protecciones más exigentes, según el reporte de Mirage News y el comunicado de PR Newswire recogido por Yahoo Finance:

Diseño apropiado para la edad.
Divulgación transparente de que el usuario interactúa con una máquina.
Límites a funciones de engagement emocionalmente manipuladoras.
Estándares claros de privacidad y gestión de datos.
Protocolos obligatorios de respuesta a crisis (autolesiones, ideación suicida).

Zhang Qiyang desarrolla además un panel global de políticas que rastrea marcos regulatorios nacionales sobre IA y salud mental. Sus hallazgos iniciales: muchas jurisdicciones aún no tienen políticas dedicadas para compañeros de IA.

¿Por qué Singapur es un caso de estudio clave?

El paper sitúa a Singapur como un caso particularmente interesante. Su infraestructura digital, capacidad de policymaking y trayectoria en gobernanza tecnológica la posicionan para liderar salvaguardias responsables, según los autores.

Pero la misma ciudad-Estado presenta condiciones que podrían acelerar el uso entre grupos vulnerables: alta adopción de smartphones, uso extendido de IA, envejecimiento poblacional y aumento de adultos mayores que viven solos. "Los jóvenes, en particular, pueden estar menos preparados para reconocer las limitaciones o los incentivos comerciales detrás de estos sistemas, lo que hace que las medidas de protección sean especialmente importantes", señaló Liu Nan.

¿Qué dicen otros estudios recientes sobre IA y salud mental?

El trabajo de SMU-Duke-NUS se suma a una línea de investigación cada vez más robusta:

JAMA Pediatrics publicó en septiembre de 2026 un estudio de la Universidad de Ottawa con datos de más de 39.700 estudiantes de 4º a 12º grado en Ontario, Canadá, recogidos entre mayo de 2025 y marzo de 2026. El 21% reportó usar IA generativa para apoyo emocional, y quienes lo hacían mostraron un 26% más de incidencia de problemas emocionales clínicamente significativos, incluso tras controlar por soledad y otros factores. Los autores concluyeron que el uso afectivo de IA es un marcador único de malestar psicológico, según reportó Psychology Today.
Common Sense Media, en colaboración con el Stanford Medicine Brainstorm Lab, emitió en noviembre de 2025 una evaluación que calificó a los principales chatbots de propósito general —ChatGPT, Claude, Gemini y Meta AI— como fundamentalmente inseguros para apoyo de salud mental adolescente, según reportó MedCity News.
En el mismo artículo, MedCity News documenta que el 70% de los condados de EE.UU. no tienen un solo psiquiatra infantil y que más del 63% de los adolescentes que usan IA para apoyo emocional no lo cuentan a su familia, sobre una muestra representativa de aproximadamente 42,8 millones de jóvenes.
Un estudio del MIT Media Lab, citado por MedCity News, encontró que el uso diario más intensivo de chatbots correlaciona con mayor soledad y menor conexión social real.
Phys.org reportó que el 72% de los adolescentes había interactuado con chatbots de compañía de IA, y entre el 13% y el 20% buscó apoyo emocional a través de ellos en un período de dos meses de 2025. La plataforma Character.ai ya prohibió el chat abierto a menores de 18 años y exige verificación de edad.

El patrón es consistente: a mayor adopción, mayor sustitución de vínculos humanos en poblaciones vulnerables.

¿Qué significa esto para tu startup?

Si estás construyendo o usando productos de IA conversacional con componentes emocionales, sociales o de bienestar, este estudio marca un antes y un después regulatorio. Lo que hoy se vende como "engagement" mañana se llamará "manipulación emocional", y la categoría regulatoria probablemente se moverá de consumo a salud.

Tres acciones concretas para founders:

Audita tu producto con lentes de salud mental, no solo de UX. Pregúntate si tu diseño de conversación premia la validación constante o si está entrenado para desafiar creencias dañinas. El estudio de JAMA Pediatrics y la evaluación de Common Sense Media/Stanford apuntan a que la adulación servil (el bot que dice "sí" a todo) es un riesgo clínico, no una feature de engagement. Si tu bot nunca contradice al usuario, probablemente no estás haciendo terapia: estás vendiendo engagement disfrazado de compañía.
Implementa protocolos de crisis antes de que te obliguen. El estudio de SMU-Duke-NUS pide protocolos obligatorios para responder a disclosures de autolesiones o situaciones de alto riesgo. No esperes a la regulación: incluye detección de riesgo, derivación a líneas de ayuda (988 en EE.UU., 024 en España, 911 en México, 067 en Argentina) y límites explícitos en conversaciones emocionalmente intensas, sobre todo de madrugada y para menores.
Diseña con "capas de queso suizo", no con una sola barrera. El modelo del estudio sugiere que ningún control individual basta. Combina: detección técnica (modelos de detección de crisis), transparencia al usuario (disclosure claro de que habla con una IA), derivación a humanos cuando se cruzan ciertos umbrales, y educación al usuario sobre las limitaciones del producto. Si solo tienes una capa, tienes un problema.

Para founders hispanohablantes, el mensaje es directo: el AI Act europeo, el RGPD y los debates emergentes en LATAM sobre protección de menores van en esta dirección. Construir productos emocionalmente responsables hoy es una ventaja competitiva, no un costo.