Ember, GPU belleğini aşan iş yüklerinde veri yerleşimini değiştirdi
Münih Teknik Üniversitesi araştırmacıları, GPU belleği dolduğunda hangi verinin aygıtta tutulacağını izleyerek belirleyen Ember adlı bellek yönetim sistemi geliştirdi. Makaledeki veri yoğun iş yüklerinde sistem, üç farklı NVIDIA GPU’da standart Unified Virtual Memory’den daha yüksek hız bildirdi.
Kaynak inceleme dönemi: 2026-10-09
Yayın: · Güncelleme:
Kaynak olay tarihini belirtmiyor; gösterilen dönem kaynak incelemesinin dönemidir.
GPU belleğini aşan uygulamalar verileri ana bellek ile GPU arasında taşımak zorunda kalıyor; standart sayfa taşıma yaklaşımı, yanlış tahmin edilen veriler tekrar tekrar taşındığında yavaşlayabiliyor. Ember’in uyarlamalı varyantı, varsayılan olarak ana bellekte eşlenen bölgeleri GPU erişim sayaçlarına göre sıcak bölgeler için aygıt belleğine yükseltiyor ve soğuyan bölgeleri bellek dolmadan geri alıyor.
Araştırmacılar, Ember’in statik varyantında yaklaşık 1,5 kat bellek aşımı koşulunda altı veri yoğun uygulama için stok UVM’ye göre RTX 5080’de 9,12, A40’ta 6,83 ve H200’de 10,62 kat geometrik ortalama hızlanma bildirdi. 16 GiB ile sınırlandırılmış aygıtlarda Qwen2.5 14B ve Qwen3 32B üretimi de hızlandı; bu sonuçlar belirtilen donanım ve deney düzeniyle sınırlı, genel üretim performansı vaadi değil. Bazı temel UVM çalıştırmaları 1.800 saniyelik süre sınırına ulaştığından, etkilenen karşılaştırmalardaki hızlanmalar alt sınırdır.
Veriler
GPU bellek deneylerinin sonuçları
Hızlanmalar yalnızca makalede belirtilen GPU ve iş yükleri için geçerlidir.
| 3 | 6 | Geometrik ortalama hızlanma: statik Ember / stok UVM |
Yöntem
Değerler, altı uygulamadaki statik Ember varyantının stok UVM’ye göre geometrik ortalama hızlanmalarıdır; yaklaşık 1,5 kat bellek aşımı koşulunda üç GPU üzerinde ölçülmüştür. Bazı temel UVM çalıştırmaları 1.800 saniyelik süre sınırına ulaştığından, etkilenen karşılaştırmalardaki hızlanmalar alt sınırdır.
Güncelleme:
Konular ve yerler
Konu önerileri
- Bilim ve teknolojiÖneri
- Preserved editorial category/topic; broad candidate onlyarxiv.org ↗
Coğrafi referanslar
Yalnızca kaynakta bulunan coğrafi referanslar gösterilir. Harici haritayı açmak isteğe bağlıdır. İsteğe bağlı haber haritaları OpenStreetMap kullanır. Haritayı açtığınızda IP adresiniz ve site adresi harita sağlayıcısına iletilir; harita yüklenmeden konum verileri metin olarak okunabilir.
- Almanya · Yer rolü: Kapsam · Yer türü: Ülke veya bölge · Konum kesinliği: BölgeselKanıt
- Explicit preserved editorial country/region; no city or national centroid inferredarxiv.org ↗