IAGenerado
EN · IT · ES

Investigadores de Microsoft resuelven un problema matemático de 31 años y hacen que los agentes de código con IA reduzcan costos en una cuarta parte

Un rompecabezas matemático de décadas se resuelve por fin, y un nuevo método ayuda a las herramientas de codificación con IA a ahorrar dinero sin perder velocidad.

Un fotograma del vídeo de anuncio.
Imagen: del vídeo del anuncio, microsoft.com
Cómo funciona

Investigadores de Microsoft resolvieron un problema matemático que tenía 31 años y crearon métodos para que los agentes de codificación con IA y los modelos de lenguaje vayan más rápido y cuesten menos

  1. Los matemáticos aplican una regla nueva y universal a problemas de geometría
  2. Los agentes de codificación con IA trabajan más tiempo sin depender de resúmenes que cuestan una fortuna
  3. Los que dividen el texto en partes encuentran fragmentos que se comparten entre 104 idiomas

Qué puedes hacer con ello

  • Un matemático podría aplicar la nueva regla sobre las distribuciones log-cóncavas para desbloquear avances en otros problemas de geometría de alta dimensión y algoritmos aleatorizados 1.
  • Un equipo de software que use asistentes de codificación con IA podría mantener las sesiones productivas durante más tiempo y reducir su factura en la nube hasta aproximadamente una cuarta parte usando el nuevo método de resumen en segundo plano 1.
  • Un investigador que construya herramientas de IA para idiomas más pequeños podría usar un tokenizador que encuentra partes reutilizables de palabras en 104 idiomas en lugar de centrarse solo en la compresión 1.

Romper una barrera matemática de décadas

Durante más de treinta años, la conjetura KLS se mantuvo como uno de los problemas centrales no resueltos en geometría de alta dimensión, una rama de las matemáticas que estudia formas en espacios con muchas más direcciones que la longitud, el ancho y la altura que experimentamos a diario 1.

Investigadores de Microsoft ahora la han resuelto 1. El resultado establece una regla universal sobre las distribuciones log-cóncavas, patrones matemáticos que aparecen ampliamente en probabilidad y computación . Muestra que los cortes simples y planos pueden identificar los cuellos de botella más estrechos dentro de estos patrones dentro de un margen fijo, sin importar cuántas dimensiones estén involucradas .

Ese hallazgo despeja una barrera teórica importante para entender qué tan efectivos son los algoritmos aleatorizados en ciencias y computación 1. La demostración ha sido validada de forma independiente y también verificada usando métodos asistidos por computadora .

Agentes de codificación que mantienen la calma por más tiempo

Los agentes de codificación con IA pueden ayudar a las personas a escribir y modificar software, pero las sesiones largas de trabajo suelen saturar la cantidad de información que un modelo puede retener a la vez 1. Cuando eso sucede, los sistemas resumen las interacciones anteriores mediante un proceso llamado compactación de contexto, que consume recursos considerables de cómputo .

Los investigadores de Microsoft examinaron 13,5 millones de sesiones de codificación y encontraron que menos del 8 % necesitaba este paso de resumen, pero esas sesiones representaban el 44 % de los costos totales de procesamiento con IA 1. Para estudiar el problema de manera sistemática, crearon CompactionBench, una prueba para evaluar la compactación de contexto durante tareas de codificación extendidas .

También presentaron APEC, un método que prepara resúmenes en segundo plano sin tener que detener al agente a mitad de tarea 1. En las pruebas, APEC mejoró el rendimiento de codificación mientras reducía costos hasta un 25,4 % y reducía el tiempo de ejecución en un 9,6 % .

Segmentación de texto más inteligente en 104 idiomas

Antes de que los modelos de IA puedan leer o escribir, deben dividir el texto en unidades más pequeñas llamadas tokens 1. La mayoría de los sistemas se centran en comprimir el texto tanto como sea posible, pero un nuevo estudio de Microsoft sostiene que la compresión por sí sola deja valor sobre la mesa .

Los investigadores propusieron el Tokenizador de Núcleo Latente, o LCT, que encuentra bloques reutilizables dentro de las palabras antes de construir un vocabulario compartido que funcione en muchos idiomas 1. En evaluaciones que abarcaron 104 idiomas, LCT generó tokens más significativos desde el punto de vista lingüístico que las principales opciones competidoras, con eficiencia comparable . También mejoró el rendimiento del modelo en cuatro pruebas multilingües .

El equipo concluyó que una buena tokenización depende no solo de cuánto texto pueda compactarse, sino de qué tan fielmente se preserve la estructura subyacente del lenguaje 1.

El panorama general

La edición también señaló a los oyentes hacia una conversación separada en podcast con Jinyu Li, gerente en Microsoft Applied Science, sobre cómo la IA está impulsando un acercamiento a la traducción hablada en tiempo real que antes solo se imaginaba en la ciencia ficción 1. Mientras tanto, la pasante Lilika Makabe compartió cómo el trabajo práctico en el laboratorio de Microsoft Research en Tokio ayudó a unir la visión por computadora y la inteligencia física, el campo detrás de robots y máquinas que navegan por el mundo real .

Tomados en conjunto, los anuncios bosquejan un programa de investigación que persigue velocidad, claridad y alcance: menor costo por línea de código, bases matemáticas más firmes y herramientas lingüísticas que dejan de tratar cada lengua como algo secundario 1.

¿Qué tan buena es?

Los investigadores de Microsoft estudiaron 13,5 millones de sesiones de codificación y encontraron que menos del 8 % activaba una compactación pesada de contexto, pero esas sesiones representaban el 44 % de los costos totales de procesamiento 1. Su nuevo método redujo costos hasta un 25,4 % y el tiempo de ejecución en un 9,6 %, mientras también mejoró el rendimiento de codificación . La demostración matemática de 31 años fue validada de forma independiente y verificada con métodos asistidos por computadora . Para la tokenización, las pruebas en 104 idiomas mostraron tokens más significativos lingüísticamente y mejores puntuaciones de modelo en cuatro pruebas multilingües que las principales alternativas, aunque Microsoft no publicó números exactos de rivales .

Gráfico del anuncio: Este gráfico circular compara la pequeña proporción de sesiones de codificación que necesitan compactación de contexto contra su gran proporción de costos de procesamiento con IA; porciones más grandes significan mayor impacto en costos

Imagen: microsoft.com

Los datos clave

  • La conjetura KLS en geometría de alta dimensión permaneció abierta durante 31 años; investigadores de Microsoft afirman que ahora está resuelta, con validación independiente y demostración asistida por computadora.
  • Un análisis de 13,5 millones de sesiones de codificación encontró que menos del 8 % necesitaba compactación costosa de contexto, pero esas sesiones generaban el 44 % de los costos de procesamiento.
  • APEC, un método de resumen en segundo plano del mismo trabajo de Microsoft, redujo el tiempo de ejecución en un 9,6 % y los costos hasta un 25,4 % en pruebas con agentes de codificación.
  • El Tokenizador de Núcleo Latente (LCT) se probó en 104 idiomas, produciendo tokens más significativos desde el punto de vista lingüístico e mejorando cuatro pruebas multilingües.

Fuentes

  1. Microsoft Research Focus – Edition #98 - Microsoft Research

Mira

Pressing the box loads the video from YouTube, which then receives your visit under its own privacy policy. Until then nothing is requested from YouTube.

Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes

Sigue leyendo

Investigadores se preguntan cómo la IA podría cambiar para siempre la medicina, los fármacos y la atención a los pacientes

Un nuevo podcast de expertos de Microsoft explora qué podrían significar el diagnóstico asistido por inteligencia artificial, las células virtuales y la aceleración del descubrimiento de fármacos para tu salud.

Cómo funciona