✨︎ Resumen (TL;DR):
- Meta terminó la primera fase de Prometheus en New Albany, Ohio, y usó el sistema para entrenar la familia Muse.
- Cada grupo NVLink reúne 72 GPU: 64 trabajan y 8 quedan como reserva.
- En una evaluación con unas 98,000 GPU, FT-HSDP redujo las pausas de recuperación de 10 a 3 minutos y elevó el tiempo efectivo del 44 % al 80 %.
Meta informó el 19 de octubre de 2026 que terminó la primera fase de Prometheus, el superclúster que opera en New Albany, Ohio. La infraestructura ya sirvió para entrenar la familia de modelos Muse y reúne cientos de miles de GPU, con una expansión prevista a cerca de un millón.
Prometheus es un superclúster de Meta que reúne GPU para entrenar modelos de inteligencia artificial. En este caso, las GPU son los aceleradores que la compañía utiliza para entrenar IA. Meta diseñó la arquitectura para reanudar el entrenamiento cuando falla uno de sus componentes y conectar los edificios que forman el complejo.
GPU de reserva para contener las pausas
Prometheus no dedica todas sus GPU al entrenamiento. En cada grupo NVLink de 72 GPU, Meta utiliza 64 y mantiene 8 como reserva. Si falla una GPU activa, un repuesto permite retomar el trabajo desde el último estado guardado.
El cómputo aprovechable depende de dos variables: cuántas GPU siguen activas y cuánto tiempo pasan trabajando. Cuando aumenta la escala, las fallas y las pausas de recuperación reducen ese tiempo útil.
Un trabajo técnico enlazado por Meta y publicado como preprint en arXiv documenta ese problema. Sus autores, de Meta y otras instituciones, describen FT-HSDP, un sistema que aísla la réplica afectada, es decir, el grupo que procesa una parte de los datos, para que las demás continúen.
FT-HSDP es un sistema de tolerancia a fallas que aísla una réplica afectada y permite que las demás continúen procesando datos. En una evaluación con aproximadamente 98,000 GPU, sus autores reportaron que las pausas de recuperación bajaron de 10 a 3 minutos. El tiempo efectivo de entrenamiento subió de 44 % a 80 %.
Esas cifras corresponden a la evaluación del preprint, no a una medición general de toda la infraestructura de Meta.
BAG conecta los edificios del superclúster
Meta describió en febrero de 2026 un proyecto pensado para ofrecer 1 gigavatio de capacidad. Para unir los edificios, utiliza BAG, una capa de agregación Ethernet que enlaza sus redes.
BAG es una capa de agregación Ethernet que conecta las redes de los edificios de Prometheus. La arquitectura descrita por Meta ofrece entre 16 y 48 petabits por segundo por par de regiones.
La arquitectura permite organizar las conexiones para simplificar la gestión o distribuir los enlaces por más rutas y aumentar la resistencia a fallas. Esa decisión define cómo protege la comunicación entre centros y cuánto ancho de banda queda disponible.
La expansión también exige que los procesadores intercambien datos y mantengan el trabajo cuando falla un componente. La red debe soportar tanto la escala del cómputo como la recuperación ante interrupciones.
La expansión sumará Vera Rubin NVL72
Meta proyecta ampliar Prometheus a cerca de un millón de GPU. Para hacerlo, sumará sistemas NVIDIA Vera Rubin NVL72 a los GB300 y prevé integrarlos a la red existente mediante su próxima plataforma San Miguel.
La primera fase ya entrenó Muse. La ampliación proyectada llevará a una escala mayor el mismo reto que la arquitectura intenta controlar: mantener el procesamiento cuando falla un componente.
