Borges y la IA: el olvido vale más que la memoria

El problema que Borges describió en 1942, antes de que existiera una computadora

En 1942, décadas antes de Internet y de la primera computadora moderna, Jorge Luis Borges publicó Funes el memorioso: el cuento de un hombre que recuerda absolutamente todo y que, precisamente por eso, pierde la capacidad de pensar. Ocho años después de aquella publicación, esa ficción describe el cuello de botella más concreto de la inteligencia artificial actual. Sumar memoria no vuelve más inteligente a un sistema.

La frase que la nota original rescata del cuento funciona como definición técnica: "Pensar es olvidar diferencias, es generalizar, abstraer." Un niño que aprende la palabra "árbol" no memoriza cada árbol del planeta: descarta miles de diferencias para construir un concepto. Del mismo modo, una inteligencia —humana o artificial— no se mide por cuántos datos conserva, sino por qué patrones descubre, qué relaciones establece y qué decide ignorar.

Para un founder que hoy construye con IA, "olvidar" no es una metáfora literaria. Es una decisión de arquitectura con consecuencias directas en costos, latencia y calidad de producto.

Memoria activa vs. memoria persistente: dónde falla realmente un modelo

Un modelo de lenguaje no recuerda nada por sí solo. Según el análisis técnico de Unite.AI, conviene separar dos capas que suelen confundirse:

• Memoria activa: la información que el modelo tiene delante para responder ahora mismo (instrucciones, mensajes recientes, resultados de herramientas, material recuperado).
• Memoria persistente: la información que la aplicación guarda para reutilizarla después (preferencias, notas de proyecto, registros, checkpoints).

La distinción importa porque responde a dos preguntas distintas: ¿la información sigue existiendo? y ¿el modelo la va a recibir cuando la necesite? Un historial guardado puede responder la primera sin resolver la segunda.

Unite.AI señala además que todo sistema de memoria se evalúa en tres dimensiones: duración, alcance (a qué usuario, equipo o proyecto pertenece) y disponibilidad para la llamada actual al modelo. La etiqueta "memoria a largo plazo" no responde ninguna de las tres.

Ahí está el primer punto ciego: la mayoría de los fallos de memoria no son de almacenamiento, sino de selección. La información existe, pero llega tarde, llega desactualizada o llega mezclada con registros de otro cliente.

¿Una ventana de contexto más grande resuelve el problema de la memoria?

No. Y este es el malentendido más caro del sector. TechBooky explica que una ventana de 200.000 tokens suena a que podría contener semanas de conversación, pero dos cosas se interponen. Primero, cada token del prompt se factura en cada mensaje, así que las aplicaciones limitan cuánto historial envían. Segundo, los modelos usan las entradas largas de forma desigual.

El estudio Lost in the Middle (2023), de Nelson Liu y colegas, citado por TechBooky y por Unite.AI, encontró que la precisión suele ser más alta cuando el dato relevante está al principio o al final de la entrada, y cae cuando queda en el medio. Traducción práctica: un detalle puede estar presente en el prompt y aun así ser ignorado.

Unite.AI lo ilustra con un caso concreto: si un archivo de proyecto contiene cuarenta discusiones sobre una fecha de lanzamiento, donde treinta y nueve mencionan la fecha original y la última aprobada la cambia, meter las cuarenta en el contexto crea un problema de lectura y de autoridad, no de capacidad. La solución no es más contexto, sino un registro de estado actual vinculado al cambio aprobado.

MemGPT, un ejemplo arquitectónico citado por Unite.AI, va en esa dirección: mover información entre un contexto limitado y capas de memoria externas con una analogía de sistema operativo. La lección no es que el almacenamiento se expanda sin límites, sino que el movimiento de la información se gestiona de forma explícita.

El derecho al olvido ya dejó de ser un tema legal para volverse un problema de ingeniería

Cada vez que un usuario invoca el derecho al olvido bajo el GDPR europeo o el CCPA de California, las empresas se topan con una realidad incómoda: sus modelos pueden seguir conservando rastros de los datos que se les ordenó borrar. En redes neuronales de grafos —las que alimentan motores de recomendación, detección de fraude y análisis de citas— el problema es peor, porque la información fluye por las conexiones y eliminar un nodo puede propagarse por toda la representación aprendida.

Según Bioengineer.org, un estudio publicado en la revista Machine Learning propone un marco llamado SURGE, firmado por Chaofan Shen, Mingyu Wang y Jing Zhang, de la Escuela de Ciencia y Ingeniería Cibernética de la Universidad del Sureste, en Nanjing. SURGE trata una solicitud de borrado no como un corte quirúrgico de parámetros, sino como una perturbación estructural cuyos efectos se detectan, se reparan y se destilan en toda la red.

El resultado reportado es relevante: en una evaluación pareada de 18 celdas, SURGE alcanzó el mayor micro-F1 medio, 0,8632, y la mejor fidelidad frente a un reentrenamiento desde cero, con una divergencia Jensen-Shannon de 0,0243. Es decir, no sacrificó calidad de olvido por utilidad. El estudio fue financiado por el Programa de Investigación Básica de Jiangsu.

El contexto de fondo es que los ataques de inferencia de pertenencia pueden detectar si un registro específico formó parte del entrenamiento, lo que convierte cualquier rastro residual en un pasivo real de privacidad. Para un producto con datos de usuarios, el olvido dejó de ser un detalle de cumplimiento y ya es parte del diseño.

Cómo olvidan hoy las apps de IA: cuatro capas que conviene auditar

TechBooky describe cuatro mecanismos que la mayoría de los productos combinan, cada uno con una falla característica:

• Resúmenes: comprimen la conversación vieja en un recap. Son baratos y pierden especificidad. Un resumen de un resumen pierde todavía más, y una excepción omitida puede arrastrarse durante meses.
• Hechos extraídos: una segunda pasada que saca datos durables (nombre, oficio, preferencia) y los inyecta como perfil. Es la capa que más dura por dólar invertido, y su falla típica es guardar una línea de juego de rol como hecho biográfico real.
• Búsqueda vectorial: recupera fragmentos similares al mensaje actual. Recuerda bien los detalles antiguos, pero no tiene noción de tiempo, así que un dato obsoleto puede superar a uno más nuevo que lo contradice.
• Notas manuales: las entradas que el usuario fija o edita. Son las más confiables y casi siempre las más limitadas en cantidad.

Unite.AI agrega una falla silenciosa que vale la pena vigilar: la ausencia de un resultado "no encontrado". Si el sistema no localiza el dato pedido, producir un número plausible convierte una falta de memoria en una autorización fabricada. Un registro que diga "presupuesto máximo propuesto: 5.000 dólares, aprobación pendiente" no puede transformarse en "presupuesto aprobado: 5.000 dólares".

Y hay un efecto acumulativo que la mayoría subestima: un error de memoria se repite muchas veces. Si un asistente infiere que un usuario aprobó algo, guarda esa inferencia como hecho y luego la cita, su propio error anterior adquiere apariencia de evidencia independiente.

Qué significa esto para tu startup

Si construyes producto con IA, la pregunta no es cuánta memoria puedes sumar, sino qué haces con lo que guardas. Tres acciones concretas para esta semana:

• Audita qué se guarda y para qué. Antes de agregar una capa de memoria, define la pregunta futura que esa memoria debe responder. "¿Qué queda pendiente?" pide estado de tarea; "¿qué formato exige este cliente?" pide una preferencia con alcance; "¿por qué descartamos este enfoque?" pide un registro de decisión con evidencia. Diseños distintos, no una base de datos genérica.
• Define una política de expiración y reemplazo. Un registro desactualizado no se arregla agregando otro encima: hay que marcar el anterior como reemplazado y vincularlo al nuevo. Si dos fuentes se contradicen sin una regla clara de autoridad, lo correcto es mostrar ambas y pedir aclaración, no elegir en silencio la más reciente o la más similar.
• Haz la memoria visible y medible. Que el usuario pueda ver, editar y borrar lo que el sistema guardó convierte una falla silenciosa en una corrección de treinta segundos. Y evalúa el sistema con información que cambia entre sesiones, no con una preferencia repetida: introduce un dato, retoma el proyecto, agrega una excepción, cambia una fecha y observa si aparecen recuerdos obsoletos.

Hay un dato que refuerza la urgencia de medir. Un estudio de la Universitat Politècnica de València y la Universidad de Cambridge, publicado en Nature en 2024 y recogido por La Voz de Galicia, encontró que los modelos avanzados no tienen ninguna "zona segura" confiable y son más propensos a dar una respuesta incorrecta que a admitir que no lo saben. Un sistema de memoria que nunca se abstiene hereda exactamente ese problema, multiplicado por cada sesión futura.

Conclusión: la ventaja competitiva está en saber descartar

La carrera por contextos más grandes y bases de datos más completas tiene un techo lógico, y Borges lo describió antes de que existiera el primer transistor. Un sistema que recuerda todo compite consigo mismo por un espacio limitado de atención y, tarde o temprano, deja de distinguir lo importante de lo accesorio.

Para una startup, la buena noticia es que olvidar es más barato que recordar. Cada registro que no se guarda es un token que no se factura, una latencia que no se suma y una consulta de privacidad que no hay que responder. Las decisiones de diseño —qué se escribe, qué vuelve, qué versión manda y qué se permite desaparecer— están disponibles hoy y no dependen del próximo lanzamiento de un modelo.

El desafío que plantea la nota original excede a las máquinas. Vivimos rodeados de más información que nunca y pensamos con menos claridad que nunca. La inteligencia, al final, empieza en el momento en que dejamos de intentar recordarlo todo.

Fuentes

• La inteligencia artificial no necesita más memoria. Necesita olvidar. — En Línea Noticias (fuente original)
• Active vs. Persistent Memory in AI: How AI Remembers, Retrieves, and Forgets — Unite.AI
• Why AI Companions Forget You, and How the Better Ones Remember — TechBooky
• Teaching Graph AI to Forget: SURGE Rewrites the Rules of Machine Unlearning — Bioengineer.org
• Los nuevos modelos de lenguaje de inteligencia artificial responden tonterías en lugar de perfeccionarse — La Voz de Galicia