CompileMask, dönüştürücü dikkat maskelerinde verimi artırdı
JD.com ve Pekin Posta ve Telekomünikasyon Üniversitesi araştırmacıları, esnek dikkat maskelerini verimli GPU çekirdeklerine bağlayan CompileMask derleyicisini geliştirdi. Blackwell GPU deneylerinde bazı maske türlerinde Flex-FA4’e göre daha yüksek verim ölçtüler.
Kaynak inceleme dönemi: 2026-10-09
Yayın: · Güncelleme:
Kaynak olay tarihini belirtmiyor; gösterilen dönem kaynak incelemesinin dönemidir.
Dönüştürücü modellerinde farklı görevler, hangi belirteçlerin birbirine dikkat edebileceğini belirleyen farklı maskeler gerektiriyor. CompileMask, kuralı bölge tabanlı bir dilde tanımlatıyor; derleyici görünür belirteç aralıklarını önceden çıkarıyor ve çalışma anında GPU dikkat çekirdeğine kompakt bir tanımlayıcı veriyor.
NVIDIA Blackwell üzerinde 32 bin uzunlukta HSTU, paylaşılan istemli ödül modeli ve CLEAR maskelerinde Flex-FA4’e göre sırasıyla 1,44, 2,13 ve 2,87 kat verim bildirildi. Nedensel dikkat testinde yerel FA4 veriminin %85–89’u korundu. Bu kıyaslama belirli maskelere ve donanım yapılandırmasına aittir; her dönüştürücü iş yükü için aynı kazancı göstermez.
Veriler
Dikkat maskesi kıyaslaması
32 bin uzunlukta ölçülen dikkat iş yükleri; değerler çalışmaya özgüdür.
| Nedensel dikkat, alt sınır | 85 |
| Nedensel dikkat, üst sınır | 89 |
Yöntem
NVIDIA Blackwell GPU’larda dört maske deseni, uzunlukları 1K–32K arasında olan iş yükleriyle karşılaştırıldı; hızlanmalar makalede belirtilen Flex-FA4 taban çizgisine göredir.
Güncelleme:
Konular ve yerler
Konu önerileri
- Telekomünikasyon hizmetleriÖneri
- Subject suggested from the title or summary: Telecommunicationsarxiv.org ↗
- Bilim ve teknolojiÖneri
- Preserved editorial category/topic; broad candidate onlyarxiv.org ↗
Coğrafi referanslar
Yalnızca kaynakta bulunan coğrafi referanslar gösterilir. Harici haritayı açmak isteğe bağlıdır. İsteğe bağlı haber haritaları OpenStreetMap kullanır. Haritayı açtığınızda IP adresiniz ve site adresi harita sağlayıcısına iletilir; harita yüklenmeden konum verileri metin olarak okunabilir.
- Çin · Yer rolü: Kapsam · Yer türü: Ülke veya bölge · Konum kesinliği: BölgeselKanıt
- Explicit preserved editorial country/region; no city or national centroid inferredarxiv.org ↗