La CMF y las decisiones automáticas que cierran puertas

Un rechazo que nadie sabe explicar

La consulta que la Comisión para el Mercado Financiero (CMF) mantiene abierta hasta el 18 de noviembre sobre las normas del Registro de Deuda Consolidada toca un problema que cualquier startup que decida con IA debería mirar con atención: los antecedentes con los que un sistema evalúa a una persona pueden estar mal, y corregirlos en el papel no siempre cambia el resultado.

Un currículum descartado antes de la primera entrevista y una solicitud de crédito negada por un dato que ya había sido rectificado son los dos escenarios que describe Cristina Fritz, cofundadora de Digital eXp, consultora dedicada a preparar la arquitectura tecnológica de empresas que implementan agentes de IA. Su tesis es incómoda y difícil de refutar: automatizar una decisión no elimina la responsabilidad de quien la automatizó.

"'Lo decidió el sistema' no puede convertirse en la nueva forma de lavarse las manos. Si una empresa automatiza una decisión que afecta las oportunidades de una persona, necesita poder explicar qué información utilizó, cómo llegó a ese resultado y quién puede revisarlo", plantea Fritz.

Para un founder, el asunto no es filosófico. Es de producto, de arquitectura de datos y de riesgo legal. Y tiene una traducción directa: si tu sistema dice "no", tienes que poder sostener ese "no" frente a la persona afectada.

¿Dónde te alcanza una decisión automatizada?

El filtrado de currículums, el scoring crediticio, la priorización de leads, la asignación de turnos, el precio dinámico y la detección de fraude comparten un mismo patrón: un modelo ordena, puntúa o excluye, y una persona recibe el resultado sin saber cómo se produjo.

El problema aparece cuando ese resultado tiene efectos significativos. Quedar fuera de un proceso de selección o perder acceso a financiamiento son, precisamente, los dos casos que el debate regulatorio europeo trata como decisiones de alto impacto. Y son también los dos terrenos donde más startups latinoamericanas están construyendo producto, muchas veces sin un proceso formal de apelación.

¿Por qué un filtro de reclutamiento puede discriminar sin que nadie lo note?

Una investigación publicada en 2024 en la Revista Chilena de Derecho y Tecnología, de los académicos Alberto Coddou y Roberto Padilla, analiza cómo el diseño y la implementación de procesos automatizados de reclutamiento pueden generar discriminación y, además, dificultar que los postulantes la detecten o la cuestionen.

Ese segundo punto es el que suele subestimarse. Un sesgo visible genera reclamos; un sesgo invisible genera estadísticas silenciosas. Quien queda fuera de una lista corta rara vez sabe que existió una lista corta.

"Un filtro mal diseñado puede confundir una trayectoria distinta con una falta de capacidad. Si nadie revisa a quienes quedan fuera, la empresa puede estar descartando talento sin siquiera advertirlo. Automatizar un criterio no lo vuelve justo por defecto", sostiene Fritz.

Hay una asimetría de información que ningún modelo resuelve: la empresa ve el embudo completo, el candidato solo ve el silencio. En términos de producto, eso significa que el diseño del rechazo importa tanto como el diseño del match.

¿Qué cambia con la consulta de la CMF sobre la deuda consolidada?

El 21 de octubre, la CMF abrió una consulta para ajustar las normas del Registro de Deuda Consolidada, incluyendo la gestión de solicitudes de actualización, rectificación, complementación y cancelación. El proceso recibe comentarios hasta el 18 de noviembre.

El propio planteamiento de la consulta es prudente: no demuestra errores generalizados en el registro. Lo que abre es una discusión sobre cómo se gestionan y corrigen esos antecedentes, que es el insumo básico de buena parte del scoring financiero que usan bancos, fintechs y fintechs de crédito embebido.

Para una startup que otorga crédito, la pregunta relevante no es si el registro funciona bien. Es qué hace su motor de decisión cuando el dato de entrada cambia.

¿Por qué corregir el dato en el origen no basta?

Aquí está el punto más técnico y el más ignorado. Un dato puede rectificarse en su fuente y seguir circulando en su versión anterior dentro de los sistemas que lo consumen: copias en un data warehouse, features congeladas en un modelo entrenado hace meses, cachés, réplicas, exportaciones a un CRM.

"No basta con decir 'ya corregimos su dato' si el sistema que evalúa a esa persona sigue usando la versión anterior. La corrección tiene que llegar a los procesos que consumen esa información. De lo contrario, el trámite termina, pero el problema puede continuar", explica la cofundadora de Digital eXp.

Traducido a ingeniería: si no puedes reconstruir con qué versión de los datos se tomó una decisión, tampoco puedes revertirla. La trazabilidad no es un requisito de compliance decorativo; es la condición para poder corregir.

¿Qué están exigiendo las autoridades en Europa?

Europa es el espejo donde este debate ya tiene jurisprudencia. Según Tech Times, los reguladores de protección de datos de la Unión Europea analizaron en julio de 2026 si las herramientas de selección con IA ya incumplen la ley vigente, y la conclusión es que muchas sí.

La clave no está en el reglamento de IA, sino en el artículo 22 del RGPD, que prohíbe desde mayo de 2018 las decisiones basadas únicamente en tratamiento automatizado cuando producen efectos significativos. El Reglamento europeo de IA, con sus obligaciones para sistemas de alto riesgo —como los de selección de personal—, tiene su plazo de cumplimiento extendido hasta el 2 de diciembre de 2027 tras la aprobación del Ómnibus Digital por parte del Consejo el 29 de junio, informa el mismo medio. Pero esa extensión no toca el RGPD.

Dos elementos más de ese ecosistema son relevantes para un founder. Primero, el Tribunal de Justicia de la UE resolvió en diciembre de 2023, en el caso SCHUFA (C-634/21), que un sistema de scoring que "configura de forma determinante" una decisión humana posterior entra en el ámbito del artículo 22, incluso si la firma final es humana. Segundo, Tech Times describe el llamado "problema del sello de goma": que un reclutador reenvíe una lista generada por IA sin revisar a los descartados no constituye supervisión humana real.

Un análisis de la Universidad de Stanford sobre el Reglamento europeo de IA añade un matiz útil: la norma aborda el sesgo algorítmico como un problema técnico, mediante obligaciones de gestión de riesgos, gobernanza de datos y supervisión, mientras la evaluación jurídica de la discriminación sigue dependiendo del marco antidiscriminatorio existente. Es decir, cumplir el expediente técnico no equivale a ser justo.

¿Qué significa esto para tu startup?

Si tu producto decide sobre personas —candidatos, solicitantes de crédito, arrendatarios, pacientes—, el estándar ya no es "el modelo funciona". El estándar es "el modelo se puede auditar y su resultado se puede revertir". Cuatro acciones concretas:

• Prueba tus filtros con perfiles ficticios. Digital eXp propone testear con perfiles sintéticos para detectar si el sistema descarta candidatos idóneos por condiciones ajenas a los requisitos del cargo. Es un experimento de una tarde que revela más que cualquier revisión de código.
• Versiona los datos y los criterios. Registra qué información y qué reglas originaron cada resultado. Sin ese registro, un reclamo es imposible de atender: solo puedes leer la pantalla.
• Diseña una revisión humana con poder real de revertir. No una firma al final del flujo, sino una persona con acceso a los casos descartados y autoridad para cambiarlos. Eso es lo que separa la supervisión genuina del sello de goma.
• Declara el uso de IA en tu política de privacidad. Si tu sistema puntúa o filtra, dilo. La transparencia sobre la lógica y sobre los derechos del afectado es la parte más barata de implementar y la que más rápido se nota cuando falta.

Y una decisión de negocio: si vas a ahorrar tiempo y costo automatizando un rechazo, presupuesta también el costo de atenderlo. Fritz lo formula sin rodeos: "Si una empresa quiere ahorrar tiempo y costos automatizando decisiones, también tiene que hacerse cargo cuando se equivoca. Porque el algoritmo no pierde la oportunidad de trabajo ni se queda sin financiamiento: la persona, sí. Y la empresa no puede desaparecer detrás de una pantalla".

Conclusión

La discusión sobre el Registro de Deuda Consolidada y la evidencia europea apuntan al mismo lugar: el problema de las decisiones automáticas no es la IA, es la ausencia de un camino de vuelta. Un sistema sin registro de criterios, sin trazabilidad de datos y sin un humano capaz de revertir no es más eficiente; es más frágil, porque cualquier error se vuelve irreversible.

Para un founder hispanohablante que construye en LATAM o España, la ventana es favorable. Diseñar hoy el registro de decisiones, la propagación de correcciones y la revisión humana cuesta mucho menos que reconstruirlo cuando llegue el primer reclamo, la primera auditoría o el primer regulador con preguntas. La arquitectura de datos no es un detalle de backend: es la prueba de que tu empresa puede responder por lo que decide.

Fuentes

• 24horas.cl — "Lo decidió el sistema": el riesgo de perder un trabajo o un crédito por un algoritmo (fuente original)
• Tech Times — Automated Hiring Rejections May Already Break EU Law, Privacy Regulators Warn
• Stanford Law School — Algorithmic Bias and Discrimination in High-Risk AI Systems under the EU Artificial Intelligence Act