Modelos de imagen entrenados sin preentrenamiento lingüístico igualaron a rivales en una prueba controlada
Los investigadores entrenaron un sistema de texto a imagen desde cero con pares imagen-texto, superando modelos más grandes mientras usaban mucho menos poder de cálculo.

Un programa que convierte descripciones escritas en imágenes, entrenado mediante el aprendizaje de palabras e imágenes al mismo tiempo en lugar de por separado.
- Escribe una descripción de la imagen
- El modelo aprende texto e imágenes a la vez
- Obtienes una imagen generada
Replantearse cómo aprenden los generadores de imágenes
La mayoría de los sistemas populares de texto a imagen de hoy, como Stable Diffusion, dependen de grandes cantidades de preentrenamiento lingüístico. Leen miles de millones de leyendas de internet primero para aprender qué significan las palabras, y luego combinan ese conocimiento con datos de imagen para generar imágenes.
Un nuevo artículo, listado en Hugging Face bajo Stanford University y descrito en el blog de la empresa de investigación Radical Numerics, plantea una pregunta simple: ¿realmente necesitas todo ese preentrenamiento solo de texto 12? En las condiciones que los investigadores probaron, la respuesta fue no.
Crearon una familia de modelos llamada Halcyon, entrenada completamente desde cero con 100 millones de pares imagen-texto de un conjunto de datos llamado GPIC, con imágenes de 256×256 píxeles 2. Para comparar de forma justa, reentrenaron los diseños rivales con los mismos datos a la misma resolución . En lugar de enseñar el lenguaje al modelo por separado antes de mostrarle imágenes, Halcyon aprende ambos al mismo tiempo. Este enfoque se llama early fusion (fusión temprana).
Rendimiento más rápido y más económico
Una versión más pequeña de Halcyon, con 520 millones de parámetros, superó a LlamaGen-XL, un modelo late-fusion (fusión tardía) mucho más grande que aprende texto e imágenes por separado, mientras usaba solo 18,2 veces menos poder de cálculo en el preentrenamiento.
Un modelo Halcyon aún más grande, con 1,6 mil millones de parámetros, superó a otro punto de referencia strong late-fusion llamado JiT-T2I-XXL mientras usaba 275 veces menos poder de cálculo en el preentrenamiento. Los autores midieron el rendimiento usando gFD, una puntuación de referencia estándar para la calidad de generación de imágenes, donde menor es mejor.
En estos experimentos controlados, añadir preentrenamiento solo de texto no mejoró los resultados finales de texto a imagen 1. Esa es una conclusión sobre estos datos, esta resolución y estos tamaños de modelo: no demuestra que el preentrenamiento lingüístico sea inútil para todo modelo o para todo nivel de calidad de imagen.
Halcyon aprende texto e imágenes al mismo tiempo y usa mucha menos preparación previa
Entrenamiento controlado en el mismo conjunto de datos de la investigación de Stanford/Radical Numerics
Qué significa esto para el futuro
Durante años, la suposición por defecto en la comunidad de IA ha sido que la fuerte generación de texto a imagen requiere un masivo preentrenamiento lingüístico primero. Esta investigación desafía esa idea para el entorno que probaron, donde los modelos que aprenden texto e imágenes juntos desde el principio igualaron o superaron a los construidos sobre un modelo lingüístico preentrenado por separado.
Los modelos autoregresivos generan contenido una pieza a la vez: para imágenes, predicen píxeles o tokens de imagen paso a paso, en lugar de eliminar ruido de toda una imagen de una vez como hacen los modelos de difusión.
El equipo también mostró que Halcyon puede adaptarse para describir imágenes reemplazando una técnica llamada caption dropout (caída de leyendas) con un método de entrenamiento diferente llamado supervisión I2T. Esto significó que el modelo pudo aprender a describir imágenes en texto sin sacrificar su capacidad para generar imágenes a partir de indicaciones de texto, todo dentro del mismo presupuesto de preentrenamiento.
El código y los modelos de Halcyon están disponibles públicamente en línea.
Correcciones y actualizaciones
- Corregido el 20 de octubre de 2026. Una versión anterior no indicaba que todos los modelos se entrenaron y compararon en imágenes de 256×256 de un solo conjunto de datos, y presentaba el hallazgo sobre el preentrenamiento en idiomas como cierto en general, en lugar de bajo las condiciones probadas. También enumeraba cuatro páginas de una enciclopedia que la nota no utiliza como fuentes. Todo esto se ha corregido.
- Corregido el 20 de octubre de 2026. El titular decía que un nuevo modelo demuestra que no se necesita preentrenamiento lingüístico para crear imágenes a partir de texto. El artículo encontró esto bajo las condiciones que probó (imágenes de 256×256 y 100 millones de pares imagen-texto), y el titular ahora lo indica.
Los datos clave
- Halcyon se entrenó desde cero con 100 millones de pares imagen-texto sin preentrenamiento lingüístico previo
- Halcyon-0.52B superó a LlamaGen-XL con 18,2 veces menos cómputo de preentrenamiento
- Halcyon-1.6B superó a JiT-T2I-XXL con 275 veces menos cómputo de preentrenamiento
- En la configuración probada (imágenes de 256×256, 100 millones de pares imagen-texto), el preentrenamiento solo en texto no mejoró los resultados de texto a imagen
- Halcyon también puede aprender subtítulos de imágenes dentro del mismo presupuesto de entrenamiento
Fuentes
Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes
Sigue leyendo
TokenGate acelera hasta 11 veces la lectura de documentos largos por parte de la IA al pasar por alto las partes menos importantes
Una nueva técnica abierta permite que la IA salte el texto irrelevante al procesar entradas largas, reduciendo los tiempos de espera y el uso de memoria en modelos como Qwen3 sin perder precisión.
Apps y productosCanva permite desactivar la mayoría de las herramientas de IA y reducir el número de imágenes generadas por inteligencia artificial en las búsquedasHerald of AICC BY-SA 3.0, via Wikimedia Commons
Canva permite desactivar la mayoría de las herramientas de IA y reducir el número de imágenes generadas por inteligencia artificial en las búsquedas
Los usuarios de la herramienta de diseño ahora pueden desactivar las funciones de IA generativa o limitar cuántas imágenes creadas con IA aparecen en las búsquedas.
Cómo funcionaCómo Meta triplica la productividad de ingeniería usando agentes para propagar técnicas de modelos publicitariosHerald of AI
Cómo Meta triplica la productividad de ingeniería usando agentes para propagar técnicas de modelos publicitarios
El nuevo sistema de agentes de IA de Meta adapta pequeñas mejoras en miles de modelos publicitarios de forma automática, ahorrando millones en costos de computación.