IA y empatía: la brecha de responsabilidad en finanzas

La IA imita la empatía, pero no puede rendir cuentas

Un modelo de lenguaje puede responder a las tres de la mañana, recordar el nombre de tu cliente y usar el tono exacto que ese cliente necesita. Lo que no puede hacer es perder algo si la recomendación sale mal. Esa asimetría —la máquina no tiene nada que perder— es el corazón de lo que el análisis original llama la brecha de responsabilidad, y es hoy el problema estratégico más subestimado por las startups que construyen producto sobre IA.

La distinción no es filosófica. Es operativa. Un sistema puede replicar con precisión los patrones de comportamiento que los humanos asocian con la empatía sin experimentar nada parecido. Cuando eso ocurre en sectores donde la confianza es el activo central —servicios financieros, salud, seguros—, la diferenciación deja de estar en la calidez del mensaje y se traslada a una pregunta incómoda: quién asume las consecuencias.

Por qué los reguladores ya están mirando esta brecha

El marco regulatorio se está moviendo rápido, y no en la dirección de prohibir la IA, sino de exigir trazabilidad sobre quién responde.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

El 19 de octubre de 2026 la FCA británica publicó una guía titulada "AI in financial services: good practice and areas for improvement", según reportó Latham & Watkins. El documento no crea reglas nuevas: aplica el marco existente a los casos de uso de IA. Pero fija tres exigencias que cualquier founder del sector debería leer con atención.

La primera es que la gobernanza cubra todo el ciclo de vida del sistema —definición, diseño, pruebas, despliegue, monitoreo y retiro— y no se aplique de forma retroactiva después de lanzar. La segunda es que los senior managers sean personalmente responsables de los riesgos de IA en su área, con registros auditables de las decisiones, el racional y las escalaciones. La tercera es que la supervisión humana esté calibrada por caso de uso y no se convierta en un trámite de casilla: la FCA advierte explícitamente contra el "tick box" exercise.

El dato que da urgencia a todo esto: según la encuesta bienal de la FCA con el Banco de Inglaterra, el 86% de las firmas financieras ya usa IA, y una porción creciente corresponde a implementaciones de terceros y agentes autónomos. La supervisión, dice el regulador, va a aumentar.

Cuando la automatización falla: tres casos que marcan el terreno

La teoría se entiende mejor con ejemplos concretos de lo que pasa cuando nadie responde.

En febrero de 2025, según ZDNET, la FTC cerró un acuerdo de US$193.000 contra DoNotPay, la plataforma que se presentaba como "el primer abogado robot del mundo". El argumento del regulador fue demoledor en su simpleza: la empresa nunca probó su output contra lo que produciría un abogado con licencia. La IA había prometido asesoría legal sin que nadie asumiera el riesgo de que estuviera equivocada.

El segundo caso es de escala. Klarna implementó un asistente de IA capaz de hacer el trabajo equivalente al de 700 agentes humanos a tiempo completo, según reportó Libertad Digital. La noticia sacudió al sector de los centros de contacto: las acciones de Teleperformance cayeron con fuerza. La respuesta de la compañía fue reveladora —destinó hasta 100 millones de euros a herramientas de IA en 2025 y apostó por la IA como complemento del trabajo humano, no como reemplazo.

El tercero es el más incómodo, porque no involucra a una startup sino a un sistema público. Un informe de 2024 de la Government Accountability Office sobre el sistema automatizado de selección de auditorías del IRS encontró que los contribuyentes negros fueron auditados entre tres y cinco veces más seguido que los no negros, aun cuando el sistema no tenía un campo de raza. Investigadores de Stanford atribuyeron la disparidad a cómo el modelo priorizaba ciertos créditos fiscales. El sesgo no estaba en el código: estaba en los datos y en las reglas de negocio que nadie revisó.

Qué significa esto para tu startup

Si tu producto usa IA para tomar o recomendar decisiones que afectan a un cliente, ya estás dentro de esta conversación, aunque no vendas a bancos.

1. Definí explícitamente qué decisiones no delega la IA. El ejercicio más útil es hacer una lista de los puntos de decisión de tu producto y clasificarlos en tres columnas: lo que la IA puede resolver sola, lo que la IA prepara pero requiere aprobación humana, y lo que debe escalar a una persona. La FCA usa exactamente este criterio: qué se automatiza, qué queda en manos del equipo y dónde el sistema debe abstenerse, redirigir o escalar.

2. No uses el score de confianza del modelo como único disparador de escalación. Es el error más común de los sistemas de human-in-the-loop, según los expertos que recogió ZDNET. Un modelo puede estar seguro y equivocado al mismo tiempo, y en ese caso nunca cruza el umbral que activaría la revisión humana. Escala cuando el dato no se pueda anclar en una fuente verificable, no cuando el modelo "se sienta" inseguro.

3. Guardá registros auditables. Prompts, outputs, versiones del modelo, filtros aplicados y decisiones de escalación. La guía de la FCA lo pide de forma explícita, y el EU AI Act va en la misma dirección: la supervisión tiene que ser demostrable, es decir, probatoria ante un regulador o un tribunal. Sin trazas, no hay defensa posible.

4. Medí la supervisión humana, no solo la asumas. Si el revisor humano nunca revirtió una decisión del sistema, eso no es oversight: es aprobación por defecto. Vale la pena instrumentar cuántas veces el humano corrige a la máquina. Si el número es cero, el problema no es que la IA sea perfecta.

5. Cuidado con la dependencia de un solo proveedor. La FCA advierte sobre la concentración en un único modelo o vendor, y recomienda diseñar la arquitectura para poder cambiar de proveedor y tener planes de salida documentados. Para una startup esto no es solo resiliencia regulatoria: es poder de negociación.

El contexto local: la confianza se gana en los momentos difíciles

En mercados hispanohablantes la brecha se ve con claridad. Según la Encuesta de Principalidad Bancaria en Argentina de Stefanini Group y ecglobal, sobre 1.500 usuarios, el 87% usa la app de su banco principal a diario o con frecuencia, pero el 73% encuentra dificultades para resolver problemas por canales digitales. La digitalización avanzó más rápido que la capacidad de resolver.

Y la evidencia sugiere que los clientes siguen distinguiendo. La encuesta de Capterra de 2024 citada por PuroMarketing encontró que, en España, el 78% de los encuestados cree que los humanos son mejores que la IA en interacciones personalizadas, frente a un 65% en el promedio global. La IA gana en conversaciones multilingües y análisis de datos; pierde en lo que requiere contexto humano.

Conclusión

La ventaja competitiva no va a estar en tener el mejor modelo de lenguaje, porque todos van a tener acceso a modelos parecidos. Va a estar en la claridad con la que tu organización define quién responde por cada decisión que el sistema toma. Las marcas que tracen esa línea con precisión —y que puedan demostrarla con registros— tendrán algo que ningún modelo puede replicar: un rostro humano con algo que perder detrás de la recomendación.