Facebook elegía por ti; ahora la IA decide en tu empresa

De la pantalla de Facebook a la respuesta de la IA

En una escala que Facebook utilizó en 2018 para medir interacciones, un "me gusta" valía un punto y ciertos comentarios, mensajes y publicaciones compartidas consideradas significativas podían valer treinta. La cifra aparece en The Social Reckoning, la película sobre los documentos internos de la compañía, y la retoma el análisis de Jorge Lazo Arias publicado en Gestión. La segunda cifra es más incómoda: una presentación interna de 2016 señalaba que, en los grupos extremistas estudiados en Alemania, el 64% de las incorporaciones provino de las propias herramientas de recomendación de la plataforma.

Facebook cuestionó el alcance de ese estudio sobre extremismo y afirmó haber cambiado sus sistemas. Aun con esas reservas, el episodio deja una lección que hoy aplica a cualquier empresa: mientras discutíamos si lo que veíamos era cierto, sabíamos mucho menos sobre las decisiones que llevaban ese contenido hasta nosotros.

El patrón se repite ahora con otra herramienta. A la IA le entregas un informe de cien páginas y le pides cinco párrafos. Le das una lista de proveedores y le pides una recomendación. La respuesta llega ordenada, con una claridad que se agradece después de un día de reuniones. Puedes comprobar que sus afirmaciones son correctas y seguir sin saber si dejó fuera la advertencia que habría cambiado tu decisión.

El caso Amazon: cuando el algoritmo aprendió a descartar mujeres

En octubre de 2018, Reuters reveló que Amazon había desarrollado una IA experimental que puntuaba currículos de una a cinco estrellas. Según una fuente del proyecto, aspiraban a reducir cien postulaciones a las cinco mejores. El sistema penalizaba currículos con la palabra "women's", incluso en una referencia a una capitana de un club de ajedrez femenino.

BBC Mundo precisó que el proyecto arrancó en 2014 y se entrenó con diez años de solicitudes de empleo de la compañía, mayoritariamente masculinas. En 2015 quedó claro el sesgo en la evaluación de puestos técnicos. Amazon corrigió términos concretos, pero no podía garantizar que no aparecieran otros criterios discriminatorios, y terminó abandonando el proyecto. El País recogió además la versión de la empresa: la herramienta "nunca fue utilizada por los reclutadores de la compañía para evaluar a los candidatos".

Lo relevante para un founder no es el desenlace, sino el método: hubo quien revisó qué estaban premiando las puntuaciones antes de confiarles más decisiones. Una palabra que podía describir liderazgo se había convertido en una desventaja.

¿Por qué los sesgos algorítmicos siguen siendo un riesgo hoy?

El sistema de Amazon era anterior a los asistentes generativos que se usan hoy, y su historia no permite atribuirles el mismo comportamiento. Pero el terreno no se ha vuelto más seguro.

Según Infojobs, casi el 50% de las empresas españolas ya usa IA en alguna etapa de su proceso de selección, y el Foro Económico Mundial estima que cerca del 90% de las empresas la emplea para el cribado inicial, de acuerdo con el repaso que publicó Vozpópuli. Ese mismo medio cita un análisis de Fortune de marzo de 2026 según el cual la IA rechaza el 75% de los currículums.

El volumen no es el único problema. Un análisis de Brookings Institution encontró pruebas de discriminación significativa por género, raza y la combinación de ambas, según recoge Vozpópuli. Y El Español recuerda que el Reglamento europeo de IA (AI Act) clasifica como de alto riesgo los sistemas usados en empleo, educación o crédito, y exige evaluaciones de impacto, mayor transparencia y supervisión humana.

Hay señales de que el mercado empieza a moverse en esa dirección. Mappa, una plataforma de "inteligencia conductual" fundada en 2023 por Sarah Lucena, Pablo Bérgolo y Daniel Moretti, fue finalista del TechCrunch Disrupt 2025 y, según reportó La Razón, de las más de 3.000 incorporaciones que facilitó, más del 60% corresponde a mujeres, personas LGBTQ+ o inmigrantes. La empresa sostiene que las personas contratadas a través de su sistema presentan una tasa de abandono voluntario del 2%, frente a una media anual de rotación cercana al 30%.

¿Cómo sabrás si la selección de tu IA es buena?

Aquí está la pregunta que vale la pena llevar a la próxima demostración comercial. Los cinco primeros candidatos pueden parecer excelentes. El problema puede estar entre los que nunca llegues a leer.

Para una empresa que compra tiempo, esa comprobación resulta incómoda. El ahorro aparece de inmediato: menos páginas, menos perfiles, una reunión más corta. Revisar descartes obliga a devolver parte de ese tiempo y puede abrir una discusión que parecía resuelta. Si el candidato contratado trabaja bien, habrá una historia de éxito; quien quedó fuera no tendrá ocasión de mostrar lo que habría aportado.

El sesgo, además, no se anuncia. Como explica Gemma Galdón-Clavell, fundadora de Eticas.ai, en declaraciones a El Español, "la discriminación no aparece como una decisión explícita, sino como una consecuencia estadística". El algoritmo replica y automatiza una realidad desigual y la convierte en norma.

¿Qué significa esto para tu startup?

No necesitas un comité de ética para empezar. Necesitas cambiar qué revisas.

• Audita los descartes, no solo los elegidos. Toma una muestra aleatoria de 20 perfiles que tu herramienta rechazó y léelos a mano. Si dos o tres te generan dudas, el filtro está mal calibrado. Es la única forma de medir falsos negativos, que son invisibles por definición.
• Haz la prueba del contrafactual. Duplica un currículum o un brief y cambia solo un dato irrelevante para el puesto: el nombre, una referencia a una asociación, una pausa laboral. Si el resultado cambia, el modelo está usando una variable que no debería.
• Define la métrica antes de comprar. Pide al proveedor tasas de error desagregadas por grupo. Si no las tiene, eso también es información: significa que nadie las midió.
• Documenta la decisión humana. Deja registro de quién revisó la lista corta, qué cambió y por qué. El AI Act europeo exige supervisión humana efectiva en sistemas de alto riesgo, y un registro es lo que la hace verificable.

Conclusión

Los treinta puntos y el 64% quedaron en documentos internos que alguien terminó haciendo públicos. Hoy podemos sentarnos frente a una película y preguntarnos cómo tardamos tanto en advertir lo que ocurría. Mientras tanto, en una oficina, una IA acaba de reducir doscientos currículos a diez nombres. Los perfiles parecen adecuados, la reunión termina antes de lo previsto y nadie pide abrir los descartes.

La diferencia entre Facebook en 2016 y tu startup en 2026 es la escala, no la lógica. La recomendación parece un servicio menor, una ayuda para encontrar lo que buscas. Del otro lado, una herramienta interviene en las opciones entre las que decides. La pregunta no es si tu IA acierta. Es qué está dejando fuera sin decírtelo.

Fuentes

• Gestión — Facebook elegía qué veías. ¿Qué está eligiendo hoy la IA por ti? (fuente original)
• BBC Mundo — El algoritmo de Amazon al que no le gustan las mujeres
• El País — Amazon prescinde de una inteligencia artificial de reclutamiento por discriminar a mujeres
• Vozpópuli — El lado oscuro de la IA: cómo la inteligencia artificial transforma y desafía la contratación laboral
• El Español — Algoritmos que discriminan: cómo la inteligencia artificial amplifica los sesgos de género
• La Razón — Así funciona Mappa, la startup que usa inteligencia artificial para eliminar el sesgo en la contratación