Facebook elegía qué veías: la IA ahora elige por ti

Facebook elegía qué veías: la pregunta que la IA heredó

Hace años, una presentación interna de Facebook señalaba que, en los grupos extremistas estudiados en Alemania, el 64% de las incorporaciones provenía de las propias herramientas de recomendación de la plataforma. La misma compañía usaba en 2018 una escala donde un me gusta valía un punto y ciertos comentarios o publicaciones compartidas consideradas significativas podían valer treinta. El columnista Jorge Lazo Arias recupera esas dos cifras a partir de The Social Reckoning, la película sobre los documentos internos de Facebook, y las usa para lanzar una pregunta que hoy le toca de lleno a cualquier founder que delega decisiones en un modelo.

El punto no es si el contenido que veíamos era cierto. El punto es qué quedó fuera de la pantalla. Durante una década discutimos la veracidad de las publicaciones; casi nadie discutió el mecanismo que decidía cuáles llegaban. Esa discusión se cerró a medias y, mientras tanto, trasladamos la misma confianza a otra herramienta: la IA que resume, compara y recomienda por nosotros.

El caso Amazon: la palabra que restaba puntos

El antecedente más citado no es nuevo, pero sigue siendo el mejor espejo. En octubre de 2018, Reuters reveló que Amazon había desarrollado una IA experimental que puntuaba currículos de una a cinco estrellas. Según una fuente del proyecto, aspiraban a reducir cien postulaciones a las cinco mejores. El sistema penalizaba currículos que incluían la palabra women's, incluso cuando aparecía en la referencia a una capitana de un club de ajedrez femenino.

Los modelos se habían entrenado con diez años de currículos, mayoritariamente masculinos. En 2015 ya se habían detectado sesgos en la evaluación de puestos técnicos. Amazon corrigió términos concretos, pero no podía garantizar que no aparecieran otros criterios discriminatorios, y terminó abandonando el proyecto, que además presentaba problemas de calidad. Los reclutadores consultaban sus recomendaciones, pero nunca dependieron exclusivamente de ellas.

Dos lecciones quedan de ese episodio. La primera: una palabra que describe liderazgo puede convertirse en desventaja sin que nadie lo programe. La segunda: alguien revisó qué estaban premiando las puntuaciones antes de confiarles más decisiones. Esa revisión es la parte de la historia que casi nunca se replica.

¿Qué dicen los datos más recientes sobre los sesgos algorítmicos en selección?

Aquí el problema dejó de ser anecdótico. Un estudio liderado por Stanford University y difundido por Infobae en mayo de 2026 siguió a 3,4 millones de personas que presentaron 4 millones de postulaciones para 1.700 avisos en 150 empleadores de 11 sectores. Aplicando la regla de los cuatro quintos de la EEOC, el 26% de los postulantes afrodescendientes y el 15% de los asiáticos se presentaron a puestos donde el sistema discriminó a su grupo racial. Si todos hubieran sido recomendados al mismo ritmo que el grupo más beneficiado, 40.000 postulaciones más habrían avanzado a la siguiente etapa.

El hallazgo más incómodo es la concentración. Cuando un mismo proveedor filtra para muchas empresas, el modelo no se queda en una vacante: según el estudio, se convierte en una suerte de veto algorítmico que persigue al candidato de empresa en empresa. El trabajo detectó que los puntajes de la herramienta analizada podían almacenarse y reutilizarse hasta 330 días. Para bajar por debajo del 0,1% la probabilidad de quedar excluido de forma sistémica, un candidato tendría que postularse a al menos 25 vacantes, más del doble de las 10 que bastarían si cada empresa decidiera por su cuenta.

El contexto regulatorio ya se movió. Nueva York aprobó en 2021 la Local Law 144, la primera norma dirigida de forma directa a la contratación algorítmica. En Europa, la Ley de IA de la UE clasifica por defecto los algoritmos de contratación como sistemas de alto riesgo, con exigencias de cumplimiento vigentes desde el 2 de agosto de 2026, según Infobae. Y no es un nicho: la misma nota señala que 90% de los empleadores de Estados Unidos usa sistemas de IA para ordenar y clasificar aspirantes.

En LATAM el terreno también se está ordenando. Buk, en su análisis sobre sesgos algorítmicos en selección, recuerda que la Ley 1581 de 2012 en Colombia prohíbe tratar datos sensibles y exige veracidad y calidad en la información, y que el Proyecto de Ley 091 de 2023 establece un deber de información: el candidato debe saber que su perfil será evaluado por un sistema automatizado y tiene derecho a revisión humana. La misma fuente documenta otro caso revelador: el algoritmo de Optum, descubierto en 2019, priorizaba pacientes blancos sobre pacientes negros más enfermos porque usaba el gasto sanitario previo como señal de gravedad.

¿Qué significa esto para tu startup?

Ninguna startup hispanohablante tiene el equipo legal de Amazon. Y eso no te protege: te expone más. El ahorro de tiempo que da la IA en selección es inmediato y visible —menos páginas, menos perfiles, una reunión más corta—, mientras que el costo del descarte es invisible y se paga después, en forma de talento perdido, rotación o una demanda.

El problema central no es que la IA se equivoque. Es que no puedes saber si se equivocó, porque el error vive entre los perfiles que nunca leíste. Si el candidato contratado trabaja bien, tendrás una historia de éxito. Quien quedó fuera no tendrá ocasión de mostrar lo que habría aportado.

• Abre los descartes. Pide a tu proveedor o a tu ATS una muestra aleatoria de 20 a 30 currículos descartados y revísalos a mano, sin mirar la puntuación. Si dos o tres te harían dudar, tu filtro tiene un problema de criterio, no de volumen.
• Mide la tasa de recomendación por grupo. La regla de los cuatro quintos que usó Stanford es simple: si un grupo avanza a menos del 80% del ritmo del grupo más favorecido, hay un posible perjuicio que conviene investigar antes de que lo haga un tercero.
• Hazle tres preguntas por escrito a tu proveedor de IA. Con qué datos se entrenó el modelo, cuánto tiempo se reutilizan los puntajes de un mismo candidato y si puedes exportar esa información. Si no hay respuesta clara, tienes una decisión de riesgo que documentar.
• Deja registro del criterio humano. La revisión de un reclutador sobre cada descarte automatizado no es burocracia: es tu defensa ante el Proyecto de Ley 091/23 en Colombia y ante el marco de alto riesgo de la UE.
• Aplica lo mismo a la IA que resume proveedores. Cuando un asistente te devuelva cinco párrafos de un informe de cien páginas, pídele explícitamente qué dejó fuera y por qué. Es la misma pregunta, con otro nombre.

El descarte invisible es el nuevo sesgo de feed

La comparación con Facebook no es una metáfora forzada. En ambos casos hay un sistema que ordena opciones, un negocio detrás de ese orden y un usuario que cree haber decidido libremente. La diferencia es que en el feed el sesgo se discutió en la prensa durante años, y en la selección de personal se discute dentro de un comité que ya cerró la búsqueda.

Vale una advertencia de rigor: The Social Reckoning es una dramatización y las cifras del 64% y de los treinta puntos pertenecen a análisis específicos. Facebook cuestionó el alcance del estudio sobre extremismo y afirmó haber cambiado sus sistemas. Aun con esas reservas, el patrón —una recomendación que parece un servicio menor y termina definiendo la decisión— es el mismo que hoy opera en una herramienta de contratación.

Conclusión

Amazon detectó su sesgo, corrigió lo que pudo y detuvo el proyecto. Eso ocurrió porque alguien se tomó el trabajo de revisar qué estaban premiando las puntuaciones. Tu startup no necesita un laboratorio de ética: necesita dedicar una hora a leer lo que la IA descartó.

Hoy una IA acaba de reducir doscientos currículos a diez nombres. Los perfiles parecen adecuados, la reunión termina antes de lo previsto y nadie pide abrir los descartes. El informe llevará la firma de alguien que puede explicar por qué eligió a esos diez, pero no por qué los otros ciento noventa nunca tuvieron una oportunidad. Cambiar eso está enteramente en tus manos.

Fuentes

• Blogs Gestión — Facebook elegía qué veías. ¿Qué está eligiendo hoy la IA por ti? (fuente original)
• Infobae — Herramientas de IA para contrataciones pueden generar sesgos raciales y rechazo sistemático
• Buk — Sesgos algorítmicos en selección de personal