IAGenerado
EN · IT · ES

Qwen3-1.7B mapea miles de conversaciones en barrios visuales

Un nuevo atlas interactivo revela cómo se ve el mismo tema de forma distinta dentro del modelo según el idioma que se utilice.

Kétnyelvű (francia-holland) utcanévtábla Brüsszelben (Rue de Colonies).
Foto de archivo · Foto: Peyerk, Public domain, via Wikimedia Commons

Qué se puede hacer con ello

  • Un investigador puede seguir miles de conversaciones a través de un modelo de lenguaje pequeño para ver de forma visual cómo viajan las ideas por sus representaciones internas 1.
  • Cualquier persona que use herramientas de chat con IA puede examinar un mapa interactivo y comprobar que la misma pregunta ocupa una región distinta dentro del modelo según el idioma en que se le formule 1.

Dentro de la caja negra

Qwen3, un modelo de IA chino de código abierto desarrollado por Alibaba, nunca ha sido fácil de inspeccionar. Cada vez que escribes un mensaje, el modelo pasa por capas de matemáticas de las que la mayor parte de la gente solo oye hablar en artículos técnicos 1. Un nuevo mapa interactivo permite ahora a los visitantes seguir miles de conversaciones a través de una versión pequeña del modelo, llamada Qwen3-1.7B, que cuenta con 1,7 mil millones de parámetros .

Cada token —una palabra, parte de una palabra o signo de puntuación— comienza como una fila en una tabla de incrustaciones, una lista aprendida de números 1. Esa fila es solo un punto de partida . A medida que el modelo sigue leyendo, el flujo residual, su espacio compartido central, va añadiendo nuevos números en cada posición . En Qwen3-1.7B cada posición lleva un vector de 2.048 números . Hablar de esos números como la mente del modelo es una metáfora; los números son reales y medibles .

La hoja en inglés

El proyecto comenzó con 900 pares de preguntas y respuestas en inglés repartidos en 100 temas cotidianos 1. Para cada par, el autor registró el estado final en cada posición del token, luego aplanó todos esos vectores junto con las 151.936 incrustaciones de entrada en un único marco de componentes principales . El resultado muestra una nube naranja por cada token de vocabulario y cientos de líneas coloreadas que rastrean cada conversación hacia adelante en orden textual .

Cuando la cámara gira, las líneas en inglés se colapsan casi hasta formar una lámina 1. Un plano ajustado contiene aproximadamente el 99,3 % de la variación en la proyección 3D . Eso no significa que el modelo piense de forma sencilla; significa que la muestra concreta de 100 temas, proyectada sobre tres ejes, ocupa una fina sección del espacio completo de 2.048 dimensiones . Conectar los estados sucesivos de los tokens en orden de lectura dibuja cada camino .

El idioma cambia el barrio

Añadir versiones en chino de los mismos temas produjo trayectos rosados que se sitúan visiblemente junto a, pero desplazados de, los azules en inglés 1. Ambos conjuntos usan el mismo marco global fijo de PCA; las respuestas fueron generadas de forma independiente por el modelo en lugar de ser traducciones copiadas . Al separarlos, podemos ver en la práctica un concepto abstracto: el modelo guarda tanto lo que se está discutiendo como el idioma usado para esa discusión codificados dentro de sus vectores.

A continuación se incluyeron el alemán y el croata como comparaciones adicionales 1. El experimento en sí no puede desentrañar si el desplazamiento proviene del sistema de escritura, del vocabulario, de la gramática, de la tokenización o de la forma en que se formulan las preguntas . El autor señala que esperar que una representación cargue un sentido puro, despejadamente separado de las palabras usadas para expresarlo, puede haber sido el supuesto equivocado desde el principio . Rotar ya la tabla de incrustaciones revela agrupamientos entre los puntos crudos del vocabulario antes de que comience cualquier conversación .

Correcciones y actualizaciones

  • Corregido el 15 de noviembre de 2026. Una versión anterior afirmaba que el atlas cartografiaba más de 1.500 rutas; la fuente dice miles sin dar ese número concreto. Una versión anterior también omitía la tokenización de la lista de factores indistinguibles; la fuente la incluye explícitamente junto con el sistema de escritura, el vocabulario, la redacción y la calidad de la respuesta.

Los datos clave

  • - Cartografía miles de rutas de conversación a través de Qwen3-1.7B usando vectores del flujo residual 1
  • El Q&A en inglés en 100 temas colapsa en un plano que contiene ~99,3 % de la variación 1
  • Las respuestas en chino aparecen en una región separada y vecina de las del inglés 1
  • El modelo usa vectores de 2.048 números por posición de token en el flujo residual 1
  • El atlas interactivo compara trayectorias en inglés, chino, alemán y croata 1

Fuentes

  1. What thousands of conversations look like inside a language model — operator0x.com

Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes

Sigue leyendo

TokenGate acelera hasta 11 veces la lectura de documentos largos por parte de la IA al pasar por alto las partes menos importantes

Una nueva técnica abierta permite que la IA salte el texto irrelevante al procesar entradas largas, reduciendo los tiempos de espera y el uso de memoria en modelos como Qwen3 sin perder precisión.

Cómo funciona