JEPA-Anything usa una sola receta para modelar siete mundos distintos

Un modelo, siete mundos

Un equipo de investigadores de PhAI Labs, CUHK, Fudan, Stanford, Oxford y Princeton ha lanzado JEPA-Anything, un marco que aprende modelos predictivos en siete campos muy distintos usando una sola receta compartida.

La idea detrás de los modelos del mundo —IAs que predicen cómo cambia el mundo con el tiempo— ha sido tradicionalmente específica de cada dominio. Podrías entrenar un modelo para vídeo, otro para robótica y otro más para simulaciones moleculares. JEPA-Anything se salta eso. Aplica el mismo método central a la visión, la biología, las trayectorias clínicas, el control, la dinámica molecular, los campos físicos y la meteorología.

El equipo atribuye esta flexibilidad a una técnica llamada Orthogonal Predictive Factorization, o OPF, que según ellos resuelve una debilidad clave en los sistemas [JEPA] estándar.

La solución de factorización

Un JEPA estándar, como I-JEPA o V-JEPA 2, predice un único objetivo unificado. Los investigadores llaman a esto un problema de asignación de capacidad: las características de alta varianza dominan mientras los modos más débiles reciben señales de entrenamiento contradictorias. En la práctica, esto significa que el modelo se vuelve bueno prediciendo ciertas cosas pero malo prediciendo otras.

OPF resuelve esto dividiendo el objetivo latente en K subespacios separados —la mayoría de los experimentos usan cuatro— cada uno con su propio predictor dedicado. Tras la predicción, los factores se recombinan matemáticamente para formar un estado latente completo. Tres reglas integradas mantienen cada factor útil y evitan que se superpongan.

En una prueba llamada CITRIS Interventional Pong, la versión ortogonal del modelo logró un número de condición cercano a 1.0, frente a 438.52 de un modelo no ortogonal con capacidad similar. Eso significa que los factores permanecieron claramente separados durante el entrenamiento.

Resultados en todos los dominios

JEPA-Anything mejoró las métricas reportadas en las diez tareas dinámicas emparejadas evaluadas. En Interventional Pong, el error de predicción de intervención única cayó alrededor de un 35 por ciento. En el referente de la ecuación de Burgers, el error de evolución de seis pasos bajó aproximadamente un 45 por ciento [source 1]. En dinámica molecular, el modelo logró los errores más bajos en un solo paso y en 100 pasos en cuatro sustancias, incluyendo agua y benceno.

Más allá de la predicción pura, el sistema ha producido insights científicos inesperados. Al analizar datos biológicos de célula individual, una combinación de bloqueo de IL-18 y CD73, nominada por un factor, fue posteriormente confirmada mediante experimentos de laboratorio húmedo en cultivos celulares, organoides derivados de pacientes, fragmentos de tumor y ratones. El modelo también recuperó la ley de Kepler del movimiento planetario a partir de patrones orbitales latentes, con un exponente ajustado de -1.4991 frente al valor teórico de -1.5 [source 1].

El rendimiento en planificación fue mixto. El sistema mejoró los resultados en los referentes de robótica Walker2d y HalfCheetah, pero el JEPA estándar tuvo mejor desempeño en Hopper.

Abierto para la comunidad

El código central tiene licencia Apache-2.0, y los checkpoints de investigación están disponibles en Hugging Face. Los investigadores argumentan que sus resultados muestran que un principio predictivo factorizado común puede conectar el modelado del mundo con la intervención del mundo real y el descubrimiento científico.

El artículo está disponible en arXiv como JEPA-Anything: Learning Predictive Models across Different Worlds, junto con el código completo y los checkpoints del modelo.

Los datos clave

• JEPA-Anything usa una sola receta compartida en siete dominios en lugar de modelos personalizados por campo
• La factorización predictiva ortogonal divide las predicciones en factores separados con predictores dedicados
• El error de intervención única en Interventional Pong cayó un 34.83 por ciento frente a los baselines emparejados
• El análisis de factores nominó una intervención contra el cáncer confirmada después en experimentos de laboratorio húmedo
• El código central es Apache-2.0 con checkpoints en Hugging Face

Fuentes

1. Beyond Domain-Specific World Models: JEPA-Anything Uses 1 Recipe for 7 Fields — marktechpost.com
2. JEPA-Anything: Learning Predictive Models across Different Worlds
3. JEPA-Anything: Learning Predictive Models across Different Worlds
4. GitHub - Gen-Verse/JEPA-Anything: JEPA-Anything: Learning Predictive ...
5. JEPA-Anything: Single Model Trains Across 7 Domains — aidailypost.com

Esta noticia se escribió antes de que cada párrafo llevara el número de su fuente: cada dato viene de una de las fuentes de arriba.