JEPAs: la prueba de que la IA converge a un mismo mundo

Un JEPA (Joint-Embedding Predictive Architecture, la arquitectura que aprende prediciendo representaciones abstractas del futuro en lugar de píxeles o tokens) de apenas 109 millones de parámetros alinea imágenes y lenguaje mejor que modelos de lenguaje de hasta 72.000 millones de parámetros. Lo reporta un paper publicado en arXiv que convierte la Hipótesis de la Representación Platónica en un teorema demostrado, y con eso cambia la pregunta que se hace un founder al decidir cómo entrenar o comprar un modelo multimodal: ¿escala, o datos bien emparejados?

¿Qué demuestra el nuevo teorema de representación platónica?

El paper formula un Teorema de Representación Platónica: cuando varios JEPAs se entrenan por separado, cada uno sobre una modalidad distinta, convergen a la misma representación del mundo salvo una rotación —son equivalentes hasta un giro geométrico— siempre que se cumplan dos condiciones. La primera: que sus pares positivos sean dos observaciones de una misma escena, lo que los autores llaman good views. La segunda: que el desalineamiento fuera de esos pares esté acotado.

La lectura para quien construye producto es directa. Que modelos de modalidades distintas terminen representando el mundo igual no es casualidad ni un efecto colateral del tamaño: es una consecuencia matemática de cómo se construyen los pares de entrenamiento.

Vale recordar de dónde viene la discusión. La Hipótesis de la Representación Platónica sostiene que los modelos de IA, a medida que se vuelven más sofisticados y se entrenan con datos más diversos, tienden a converger hacia un modelo abstracto y compartido de la realidad, según la divulgación que hizo Psychology Today de la investigación original. Sus críticos señalan que esa convergencia aparente podría venir de limitaciones técnicas o de sesgos en los datos, y que imágenes y texto contienen información única que ninguna representación compartida captura del todo.

¿Por qué los modelos de lenguaje necesitan tanta escala para alinearse?

Acá está el hallazgo que incomoda al statu quo. Los autores demuestran que predecir el siguiente token es, formalmente, un JEPA con bad views: sus pares no son dos vistas de una escena, sino partes de un mismo documento. Esa es la explicación que ofrecen de por qué los modelos de lenguaje solo se alinean con la visión a fuerza de escala.

El paper valida la teoría con un experimento grande: pasa de 145.000 captions a los textos asociados a 940 millones de imágenes web, y de ahí extrae una ley de escalado de la alineación que predice corridas no vistas dentro del ruido de semilla.

El número que resume el argumento es este: las good views necesitan 42 veces menos muestras de entrenamiento que la predicción del siguiente token sobre el mismo corpus para alcanzar el mismo nivel de alineación. No es una mejora marginal de eficiencia, es un cambio de orden de magnitud.

¿Hace falta un modelo gigante para unir visión y texto?

No, si se entrena con las vistas correctas. Un JEPA de texto de 109 millones de parámetros se alinea con los encoders de imagen de DINOv2 y CLIP mejor que todos los modelos de lenguaje que los autores evaluaron, hasta los 72.000 millones de parámetros, y mejor que el propio encoder de texto de CLIP.

Otros resultados que reporta el paper:

• En el benchmark libre de pares más reciente, el JEPA de texto supera toda exactitud zero-shot reportada con modelos de lenguaje de hasta 8.000 millones de parámetros: 64% contra 56% como máximo en top-5 sobre ImageNet-100.
• Una sola rotación convierte encoders entrenados por separado en un captioner de imágenes, con CIDEr de 0,838 en COCO.
• La conclusión de los autores: las vistas positivas, y no la escala sola, son la palanca para construir representaciones platónicas.

¿Qué significa esto para tu startup?

1. Audita tus pares de datos antes de comprar más parámetros. Si estás entrenando o haciendo fine-tuning de un modelo multimodal, el paper pone el retorno en la curación del dataset y no en el tamaño del checkpoint. La pregunta operativa es simple: ¿tus pares positivos son dos vistas reales del mismo objeto o evento? Piensa en la misma ficha de producto con su foto, el mismo evento capturado por dos sensores, dos frames consecutivos de la misma escena. Si tus pares son fragmentos arbitrarios del mismo archivo, estás entrenando con el régimen que el paper llama ineficiente.

2. Reevalúa si necesitas un modelo gigante para búsqueda y embeddings. Un encoder de 109 millones de parámetros superando a modelos de hasta 72.000 millones en alineación entre modalidades es una señal fuerte para quien paga inferencia por token. Antes de contratar una API de embeddings multimodales o de servir un LLM grande solo para recuperar, corre un benchmark propio con un encoder chico sobre tu dominio: puede que el costo por consulta baje una o dos órdenes de magnitud sin perder calidad de recuperación.

3. Trata la recolección de datos como una decisión de arquitectura. En la línea de investigación que rodea a JEPA hay evidencia de que el régimen de datos decide si el aprendizaje es posible. Los preprints de mayo de 2026 del grupo de Yann LeCun, recogidos por TechTimes, reportaron que cuando los datos de entrenamiento venían de una política guiada por objetivos, la recuperación de las variables reales del mundo nunca superó 0,5, frente a un R² de aproximadamente 0,95 con exploración uniforme del espacio de estados. Si tu pipeline de datos solo captura trayectorias hacia un objetivo, puede estar en el peor régimen posible sin que nadie lo note.

4. Mide alineación y utilidad por separado. El mismo trabajo de TechTimes reseña un benchmark donde la tasa de éxito en una tarea de manipulación cayó de 50,8% en condiciones limpias a alrededor de 12% al cambiar el color del agente y 6% al cambiar el color del fondo. Un modelo puede predecir el siguiente frame con precisión y fallar la tarea. Si validas un sistema multimodal con una sola métrica de similitud, estás midiendo lo que no importa.

¿Dónde está hoy el ecosistema que empuja esta tesis?

JEPA fue propuesto por Yann LeCun en 2022, según TechCrunch (recogido por Yahoo Finance). Desde entonces el capital siguió a la idea: AMI Labs, la empresa que LeCun cofundó tras dejar Meta, levantó US$1.030 millones en marzo de 2026 a una valoración pre-money de US$3.500 millones, el mayor seed de la historia europea según TechTimes, con inversores como NVIDIA, Samsung y Bezos Expeditions.

No es un caso aislado. El mismo artículo de Yahoo Finance menciona a World Labs, de Fei-Fei Li, que aseguró US$1.000 millones, y a SpAItial, con un seed de US$13 millones, poco habitual para una startup europea. Su CEO, Alexandre LeBrun, declaró a TechCrunch que su predicción es que los world models sean la próxima buzzword y que en seis meses toda empresa se llamará así para levantar capital.

Para quien hace research o producto, el dato relevante no es el ruido del mercado sino la coincidencia temporal: la tesis que antes dependía de intuición ahora tiene una demostración matemática que, además, es verificable con experimentos reproducibles.

¿Qué falta probar?

El teorema tiene condiciones explícitas. El desalineamiento debe estar acotado y los pares tienen que ser buenas vistas de una misma escena. Fuera de ese régimen, la garantía no aplica, y el propio paper lo enuncia como parte del resultado y no como letra chica.

También conviene leerlo con la cautela de rigor: es un paper publicado en arXiv, y su validación final pasa por la replicación independiente y por corridas de otros equipos con corpus distintos. Las comparaciones contra modelos de lenguaje de hasta 72.000 millones de parámetros y los resultados en benchmarks son los que reportan los autores, con las líneas de base que ellos eligieron.

Conclusión

La Hipótesis de la Representación Platónica pasó de conjetura a teorema, y el corolario es incómodo para el resto de la industria: la escala sola resultó ser la ruta cara. Si el argumento se sostiene, la ventaja competitiva de los próximos dos años no estará en quién compra más GPUs, sino en quién tiene los mejores pares de datos.

Para un founder hispanohablante eso abre una oportunidad concreta. Los equipos con menos capital no pueden ganar la carrera de hardware, pero sí pueden ganar la de curación de datos en un nicho vertical: un dataset propietario donde cada par positivo sea realmente una segunda vista del mismo fenómeno vale más, según este paper, que multiplicar parámetros. La próxima ronda de investigación debería responder hasta dónde aguanta ese trade-off fuera de los benchmarks controlados que reportan los autores.

Fuentes

• Proving and Improving the Platonic Representation Hypothesis with JEPAs (fuente original)
• Yann LeCun's World Model Earns a Formal Proof
• Yann LeCun's AMI Labs raises $1.03B to build world models
• AI's Quest for a Grand Unification Theory