Ai2 presenta un planificador que cambia el reparto de sus clústeres de GPU

El Allen Institute for AI (Ai2), con sede en Estados Unidos, sustituyó la planificación basada en prioridades de sus clústeres de investigación por un sistema que asigna presupuestos de tiempo de GPU a equipos y proyectos, reparte la capacidad mediante reglas jerárquicas de equidad y puede volver a poner trabajos en cola tras los tiempos mínimos declarados. El instituto dijo que sus clústeres tienen entre 88 y 1.024 GPU y que unos 150 investigadores solicitan en cada momento entre dos y tres veces la capacidad disponible.

En los 30 días posteriores al inicio del despliegue gradual a finales de julio, los equipos recibieron el 98% de las horas de GPU que les correspondían según la demanda y las asignaciones; la ocupación de los clústeres se mantuvo en el 98% antes y después del cambio. Ai2 también comunicó una reducción del 74% en las reparaciones que requieren intervención humana y una caída de cinco minutos a 24 segundos en la espera mediana de su mayor clúster H100. La entidad sigue vigilando problemas como la interrupción de sesiones interactivas y una posible fragmentación de capacidad para trabajos grandes.