TorchNeuron permite que los modelos de Hugging Face se ejecuten de forma nativa en chips AWS Trainium
Un nuevo backend de PyTorch elimina la complejidad del compilador que antes impedía ejecutar modelos de Hugging Face en el hardware de IA personalizado de Amazon.

Un plugin de software que permite a los modelos de IA funcionar directamente en los chips personalizados de Amazon usando PyTorch, igual que lo hacen en las tarjetas gráficas comunes.
Un camino nativo hacia Trainium
Durante años, ejecutar modelos de Hugging Face en chips de AWS Trainium requería trabajar a través de una capa indirecta llamada optimum-neuron, la cual dependía de XLA (Accelerated Linear Algebra), un compilador de código abierto que transforma grafos de cómputo de aprendizaje automático en código eficiente 1. Esa configuración obligaba a los desarrolladores a pensar en términos de ejecución perezosa, formas tensoriales fijas y recompilación constante cada vez que cambiaba el código. La experiencia era funcional pero frágil, y mantenía muchos modelos de HF fuera de la plataforma.
TorchNeuron cambia ese enfoque. Lanzado como beta pública el 20 de octubre de 2026, TorchNeuron es un plugin de PyTorch que trata los dispositivos Neuron — aceleradores de IA personalizados de AWS — como hardware de primera clase, al igual que las GPUs. Incorpora ejecución ágil, torch.compile y primitivas distribuidas nativas como FSDP y paralelismo tensorial directamente al ecosistema de PyTorch.
Qué cambia para los usuarios de Hugging Face
El cambio más visible es que las bibliotecas de HF ahora se ejecutan en Trainium sin envoltorios especiales. Transformers, Diffusers, Accelerate, PEFT y TRL operan todos en dispositivos Neuron usando las mismas clases y scripts que los desarrolladores ya usan en hardware de NVIDIA.
La inferencia ha visto el mayor salto en soporte. TorchNeuron ahora cubre el 89 por ciento de las 100 arquitecturas de modelos de generación de texto más utilizadas de serie, en comparación con el 46 por ciento bajo el camino anterior de optimum-neuron 1. Para ejecutar un modelo, los usuarios simplemente pasan un argumento device-map apuntando a neuron, y el modelo se carga en el acelerador.
Para despliegues más grandes, el paralelismo tensorial permite que un solo modelo abarque múltiples unidades de Trainium, mientras que una estrategia estática de KV-cache evita las recompilaciones frecuentes que anteriormente perjudicaban la velocidad de generación.
Entrenamiento sin código personalizado
Entrenar en Trainium antes requería forks específicos de Neuron o entrenadores dedicados. TorchNeuron elimina esa barrera. Un script estándar de TRL para ajuste fino supervisado se ejecuta en una instancia de Trainium con solo configuraciones menores específicas del hardware, de la misma manera que un script se ejecutaría en un clúster de GPU.
El cambio es importante porque cierra una brecha entre los flujos de trabajo de GPU y Trainium. Los desarrolladores que ya usan bibliotecas de Hugging Face para ajuste fino y evaluación ahora pueden dirigirse al hardware de entrenamiento económico de AWS sin aprender una pila separada.
AWS y Hugging Face recomiendan que los usuarios existentes de optimum-neuron migren al camino nativo de ahora en adelante, citando el soporte de arquitectura más amplio y el código más simple como razones para cambiar.
Los datos clave
- Beta pública de TorchNeuron lanzada el 20 de octubre de 2026
- El soporte de arquitectura de generación de texto subió del 46% al 89% de los 100 modelos principales
- TorchNeuron se instala vía pip install torch-neuronx
- Hugging Face ahora recomienda bibliotecas nativas sobre optimum-neuron para Trainium
- El entrenamiento usa scripts estándar de TRL en lugar de forks específicos de Neuron
Fuentes
Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes
Sigue leyendo
Amazon, Microsoft y Google revelan planes de IA muy distintos en sus últimos reportes de ganancias
Los proveedores de la nube apuestan fuerte por la inteligencia artificial, pero lo hacen de tres maneras completamente diferentes, y eso determina qué servicios usará tu empresa.
Apps y productosAlter da a los agentes de IA sus propias llaves y un registro de auditoríaHerald of AI
Alter da a los agentes de IA sus propias llaves y un registro de auditoría
Una nueva startup de Y Combinator está construyendo un control de acceso para que cada agente de IA actúe con su propia identidad en lugar de compartir una única credencial demasiado poderosa.
Apps y productosllama.cpp v1.0.0 aporta estabilidad al creciente mundo de la IA localHerald of AI
llama.cpp v1.0.0 aporta estabilidad al creciente mundo de la IA local
El popular programa de código abierto que permite a cualquier persona ejecutar modelos de IA en su propia computadora ha alcanzado la versión 1.0, lo que lo hace más confiable para desarrolladores que crean aplicaciones de IA privadas.