Digital eXp: quién responde si la IA te descarta un crédito

Un rechazo sin explicación ya tiene fecha en el calendario regulatorio

El 21 de octubre, la Comisión para el Mercado Financiero (CMF) abrió una consulta para ajustar las normas del Registro de Deuda Consolidada, con foco en cómo se gestionan las solicitudes de actualización, rectificación, complementación y cancelación de antecedentes. El proceso recibe comentarios hasta el 18 de noviembre.

Para un founder, el detalle suena administrativo, pero apunta a algo que ya golpea a cualquiera que pidió un crédito y recibió un no sin explicación. La pregunta que queda abierta es simple y difícil: si un dato equivocado definió ese rechazo, ¿quién lo corrige y quién avisa al sistema que lo usó?

Detrás de un currículum descartado antes de la primera entrevista o de una evaluación financiera hecha con información errónea hay, en muchos casos, una decisión automatizada. Cristina Fritz, cofundadora de Digital eXp, consultora especializada en preparar la arquitectura tecnológica para implementar agentes de IA en las empresas, lo plantea sin matices: «Lo decidió el sistema» no puede convertirse en la nueva forma de lavarse las manos.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

«Lo decidió el sistema» no es una explicación

Para Fritz, si una empresa automatiza una decisión que afecta las oportunidades de una persona, tiene que poder explicar qué información utilizó, cómo llegó a ese resultado y quién puede revisarlo. Ese es el estándar mínimo, y también una advertencia práctica: la trazabilidad no es un lujo de cumplimiento normativo, es la diferencia entre corregir un error y repetirlo a escala.

En un proceso manual, alguien podía notar que un candidato con una trayectoria poco convencional merecía una segunda mirada. En un embudo automatizado, ese juicio desaparece salvo que alguien lo haya diseñado explícitamente.

Qué dice la investigación sobre sesgo en reclutamiento

El problema va más allá de buscar palabras clave en un currículum. Una investigación publicada en 2024 en la Revista Chilena de Derecho y Tecnología, de los académicos Alberto Coddou y Roberto Padilla, analiza cómo el diseño y la implementación de procesos automatizados de reclutamiento pueden generar discriminación y, además, dificultar que los postulantes la detecten o la cuestionen.

Ese segundo punto es el que suele pasarse por alto: no basta con que exista discriminación para que haya reclamo. Si el candidato nunca sabe por qué quedó fuera, no tiene nada que impugnar.

Fritz lo aterriza: «Un filtro mal diseñado puede confundir una trayectoria distinta con una falta de capacidad. Si nadie revisa a quienes quedan fuera, la empresa puede estar descartando talento sin siquiera advertirlo. Automatizar un criterio no lo vuelve justo por defecto».

Corregir el dato no alcanza si el sistema sigue evaluando con el viejo

Aquí está el punto técnico que más incomoda, y el que más afecta a startups que construyen sobre datos de terceros. Corregir un dato en su origen puede resultar insuficiente si los sistemas que lo consumen siguen trabajando con información desactualizada o aislada. La persona puede seguir siendo evaluada con datos que ya fueron rectificados.

«No basta con decir que ya corregimos su dato si el sistema que evalúa a esa persona sigue usando la versión anterior», explica Fritz. «La corrección tiene que llegar a los procesos que consumen esa información. De lo contrario, el trámite termina, pero el problema puede continuar».

La propuesta de Digital eXp tiene tres piezas: conectar las fuentes de información para que las rectificaciones se reflejen en los sistemas que las usan, registrar los antecedentes y criterios que originan cada resultado, y habilitar una revisión humana con capacidad real de modificarlo. En reclutamiento, agregan, se pueden probar los filtros con perfiles ficticios para detectar si descartan candidatos idóneos por condiciones ajenas a los requisitos del cargo.

¿Qué significa esto para tu startup?

Si tu producto toma decisiones sobre personas —a quién contratar, a quién dar crédito, a quién aprobar un servicio— el riesgo ya no es abstracto. Estas son acciones concretas:

Mapea qué datos consumes y de dónde vienen. Haz una lista de cada fuente externa que alimenta tu decisión automática. Si no puedes nombrar de dónde sale un dato, no puedes corregirlo cuando esté mal.
Define un dueño humano del resultado. No una casilla de revisión que nadie mira, sino una persona con permiso para cambiar la decisión y un plazo para hacerlo. La revisión sin capacidad de modificar el resultado es teatro.
Registra la decisión, no solo el modelo. Guarda qué información entró, qué criterio se aplicó y qué salió. Ese registro es lo que te permite responder cuando alguien pregunta por qué.
Audita con perfiles ficticios. Es la versión más barata de una prueba de sesgo: crea candidatos de prueba con condiciones irrelevantes al cargo y verifica si el filtro los descarta.

Fritz insiste en que el diseño de la arquitectura tecnológica y el modelo de datos son la base para implementar procesos automatizados con IA, y que actualmente trabaja con empresas para integrar esos sistemas y establecer controles que permitan detectar el error, corregir la información y volver a evaluar. Su frase resume el estándar: «La persona que recibe el reclamo tiene que poder hacer algo más que leer lo que aparece en la pantalla».

La eficiencia no puede ser la única métrica

El argumento de que automatizar ahorra tiempo y costos es cierto, y por eso conviene tomarlo en serio en lugar de ignorarlo. El punto de Fritz es que ese ahorro viene con una contraparte: «Si una empresa quiere ahorrar tiempo y costos automatizando decisiones, también tiene que hacerse cargo cuando se equivoca. Porque el algoritmo no pierde la oportunidad de trabajo ni se queda sin financiamiento: la persona, sí. Y la empresa no puede desaparecer detrás de una pantalla».

Para un founder, esto se traduce en una decisión de producto más que de discurso. Cada automatización que toca la vida de alguien necesita un botón de reversa. Si no lo tiene, el problema no es si va a fallar, sino cuándo y con quién.

Conclusión

La discusión regulatoria en curso —la consulta de la CMF sobre el Registro de Deuda Consolidada, abierta el 21 de octubre y con comentarios hasta el 18 de noviembre— no prueba que existan errores generalizados en los sistemas de evaluación. Abre, en cambio, una pregunta que cualquier empresa que use IA para decidir debería responder antes de que se la hagan: qué pasa cuando el sistema se equivoca y quién responde.

La búsqueda de fuentes adicionales en esta ejecución no arrojó datos verificables complementarios sobre el caso, por lo que el análisis se apoya en la fuente original.