Ai2, GPU kümelerinde kaynak paylaşımını değiştiren zamanlayıcıyı anlattı

ABD merkezli Allen Institute for AI (Ai2), araştırma kümelerinde öncelik tabanlı düzenin yerine ekip ve projelere GPU zamanı bütçeleri veren, hiyerarşik adil paylaşım kullanan ve işleri belirli çalışma sürelerinden sonra yeniden kuyruğa alabilen bir zamanlayıcı getirdi. Kurum, kümelerinde 88 ila 1.024 GPU bulunduğunu ve yaklaşık 150 araştırmacının kaynak için aynı anda mevcut kapasitenin iki ila üç katı talep oluşturduğunu belirtti.

Temmuz sonunda başlayan aşamalı devreye alımdan sonraki 30 günlük dönemde ekipler, talep ve tahsislerine göre hak ettikleri GPU saatlerinin yüzde 98’ini aldı; küme doluluğu değişiklik öncesi ve sonrası yüzde 98 düzeyinde kaldı. Ai2 ayrıca insan müdahalesi gerektiren onarımların yüzde 74 azaldığını, büyük H100 kümesinde medyan kuyruk beklemesinin beş dakikadan 24 saniyeye indiğini bildirdi. Kurum, etkileşimli oturumların kesintiye uğraması ve büyük işlerde kaynak parçalanması gibi sorunları izlemeyi sürdürüyor.