IAGenerado
EN · IT · ES

Modelos de imagen entrenados sin preentrenamiento lingüístico igualaron a rivales en una prueba controlada

Los investigadores entrenaron un sistema de texto a imagen desde cero con pares imagen-texto, superando modelos más grandes mientras usaban mucho menos poder de cálculo.

Código HTML de colores mostrado en una pantalla de computadora para proyectos de programación.
Foto de archivo · Foto: Bibek ghosh / Pexels
Cómo funciona

Un programa que convierte descripciones escritas en imágenes, entrenado mediante el aprendizaje de palabras e imágenes al mismo tiempo en lugar de por separado.

  1. Escribe una descripción de la imagen
  2. El modelo aprende texto e imágenes a la vez
  3. Obtienes una imagen generada

Replantearse cómo aprenden los generadores de imágenes

La mayoría de los sistemas populares de texto a imagen de hoy, como Stable Diffusion, dependen de grandes cantidades de preentrenamiento lingüístico. Leen miles de millones de leyendas de internet primero para aprender qué significan las palabras, y luego combinan ese conocimiento con datos de imagen para generar imágenes.

Un nuevo artículo, listado en Hugging Face bajo Stanford University y descrito en el blog de la empresa de investigación Radical Numerics, plantea una pregunta simple: ¿realmente necesitas todo ese preentrenamiento solo de texto 12? En las condiciones que los investigadores probaron, la respuesta fue no.

Crearon una familia de modelos llamada Halcyon, entrenada completamente desde cero con 100 millones de pares imagen-texto de un conjunto de datos llamado GPIC, con imágenes de 256×256 píxeles 2. Para comparar de forma justa, reentrenaron los diseños rivales con los mismos datos a la misma resolución . En lugar de enseñar el lenguaje al modelo por separado antes de mostrarle imágenes, Halcyon aprende ambos al mismo tiempo. Este enfoque se llama early fusion (fusión temprana).

Rendimiento más rápido y más económico

Una versión más pequeña de Halcyon, con 520 millones de parámetros, superó a LlamaGen-XL, un modelo late-fusion (fusión tardía) mucho más grande que aprende texto e imágenes por separado, mientras usaba solo 18,2 veces menos poder de cálculo en el preentrenamiento.

Un modelo Halcyon aún más grande, con 1,6 mil millones de parámetros, superó a otro punto de referencia strong late-fusion llamado JiT-T2I-XXL mientras usaba 275 veces menos poder de cálculo en el preentrenamiento. Los autores midieron el rendimiento usando gFD, una puntuación de referencia estándar para la calidad de generación de imágenes, donde menor es mejor.

En estos experimentos controlados, añadir preentrenamiento solo de texto no mejoró los resultados finales de texto a imagen 1. Esa es una conclusión sobre estos datos, esta resolución y estos tamaños de modelo: no demuestra que el preentrenamiento lingüístico sea inútil para todo modelo o para todo nivel de calidad de imagen.

De un vistazo

Halcyon aprende texto e imágenes al mismo tiempo y usa mucha menos preparación previa

Halcyon (Fusión temprana)Rivales de fusión tardía
Parámetros520 millones / 1,6 mil millonesLlamaGen-XL / JiT-T2I-XXL
Cómo aprendeTexto e imágenes al mismo tiempoEl lenguaje se entrena por separado primero
Datos de entrenamiento100 millones de pares imagen-textoLos mismos datos (reentrenados para prueba justa)
Cómputo de preparación previo ahorrado18,2× menos vs LlamaGen-XL275× menos vs JiT-T2I-XXL
Rendimiento (gFD)Impulsó a rivales más grandesFue superado por Halcyon más pequeño

Entrenamiento controlado en el mismo conjunto de datos de la investigación de Stanford/Radical Numerics

Qué significa esto para el futuro

Durante años, la suposición por defecto en la comunidad de IA ha sido que la fuerte generación de texto a imagen requiere un masivo preentrenamiento lingüístico primero. Esta investigación desafía esa idea para el entorno que probaron, donde los modelos que aprenden texto e imágenes juntos desde el principio igualaron o superaron a los construidos sobre un modelo lingüístico preentrenado por separado.

Los modelos autoregresivos generan contenido una pieza a la vez: para imágenes, predicen píxeles o tokens de imagen paso a paso, en lugar de eliminar ruido de toda una imagen de una vez como hacen los modelos de difusión.

El equipo también mostró que Halcyon puede adaptarse para describir imágenes reemplazando una técnica llamada caption dropout (caída de leyendas) con un método de entrenamiento diferente llamado supervisión I2T. Esto significó que el modelo pudo aprender a describir imágenes en texto sin sacrificar su capacidad para generar imágenes a partir de indicaciones de texto, todo dentro del mismo presupuesto de preentrenamiento.

El código y los modelos de Halcyon están disponibles públicamente en línea.

Correcciones y actualizaciones

  • Corregido el 20 de octubre de 2026. Una versión anterior no indicaba que todos los modelos se entrenaron y compararon en imágenes de 256×256 de un solo conjunto de datos, y presentaba el hallazgo sobre el preentrenamiento en idiomas como cierto en general, en lugar de bajo las condiciones probadas. También enumeraba cuatro páginas de una enciclopedia que la nota no utiliza como fuentes. Todo esto se ha corregido.
  • Corregido el 20 de octubre de 2026. El titular decía que un nuevo modelo demuestra que no se necesita preentrenamiento lingüístico para crear imágenes a partir de texto. El artículo encontró esto bajo las condiciones que probó (imágenes de 256×256 y 100 millones de pares imagen-texto), y el titular ahora lo indica.

Los datos clave

  • Halcyon se entrenó desde cero con 100 millones de pares imagen-texto sin preentrenamiento lingüístico previo
  • Halcyon-0.52B superó a LlamaGen-XL con 18,2 veces menos cómputo de preentrenamiento
  • Halcyon-1.6B superó a JiT-T2I-XXL con 275 veces menos cómputo de preentrenamiento
  • En la configuración probada (imágenes de 256×256, 100 millones de pares imagen-texto), el preentrenamiento solo en texto no mejoró los resultados de texto a imagen
  • Halcyon también puede aprender subtítulos de imágenes dentro del mismo presupuesto de entrenamiento

Fuentes

  1. Paper page - Text-to-Image Generative Modeling Without Language Pretraining
  2. Halcyon, by Radical Numerics

Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes

Sigue leyendo

TokenGate acelera hasta 11 veces la lectura de documentos largos por parte de la IA al pasar por alto las partes menos importantes

Una nueva técnica abierta permite que la IA salte el texto irrelevante al procesar entradas largas, reduciendo los tiempos de espera y el uso de memoria en modelos como Qwen3 sin perder precisión.

Cómo funciona
Imagen simulada de pantalla de monitor de ordenador.Apps y productosCanva permite desactivar la mayoría de las herramientas de IA y reducir el número de imágenes generadas por inteligencia artificial en las búsquedasHerald of AICC BY-SA 3.0, via Wikimedia Commons

Canva permite desactivar la mayoría de las herramientas de IA y reducir el número de imágenes generadas por inteligencia artificial en las búsquedas

Los usuarios de la herramienta de diseño ahora pueden desactivar las funciones de IA generativa o limitar cuántas imágenes creadas con IA aparecen en las búsquedas.

Apps y productos