Ember déplace les données quand les charges dépassent la mémoire GPU
Des chercheurs de l’Université technique de Munich ont conçu Ember, un gestionnaire de mémoire qui suit les données à conserver sur un GPU lorsque sa mémoire est pleine. Dans les charges intensives en données de l’étude, il a dépassé la mémoire virtuelle unifiée standard sur trois GPU NVIDIA.
Période de consultation de la source: 2026-10-09
Publié: · Mis à jour:
La source ne précise pas la date de l’événement ; la période indiquée est celle de la consultation de la source.
Les applications qui dépassent la mémoire GPU doivent déplacer des données entre la mémoire hôte et celle du GPU. La migration standard de pages peut ralentir si elle déplace à répétition des données peu utiles à la charge en cours. La variante adaptative d’Ember place par défaut les régions en mémoire hôte, promeut celles qui sont souvent consultées à l’aide des compteurs matériels du GPU et libère les régions moins actives avant saturation.
Pour la variante statique d’Ember, avec un dépassement de mémoire d’environ 1,5 fois, les auteurs rapportent des moyennes géométriques d’accélération par rapport à UVM standard sur six applications intensives en données: 9,12 fois sur RTX 5080, 6,83 fois sur A40 et 10,62 fois sur H200. Ils ont également testé la génération avec Qwen2.5 14B et Qwen3 32B sur des GPU limités à 16 Gio. Ces résultats dépendent du matériel et des charges étudiés et ne garantissent pas les performances en production. Certains tests UVM de référence ont atteint la limite de 1 800 secondes; les accélérations concernées sont donc des valeurs minimales.
Données
Résultats des tests de mémoire GPU
Les accélérations concernent uniquement les GPU et charges de travail précisés dans l’article.
| 3 | 6 | Accélération moyenne géométrique : Ember statique / UVM standard |
Méthodologie
Les valeurs sont les moyennes géométriques des accélérations de la variante statique d’Ember par rapport à UVM standard sur six applications, mesurées sur trois GPU avec un dépassement d’environ 1,5 fois. Certains tests UVM de référence ont atteint la limite de 1 800 secondes; les accélérations concernées sont donc des valeurs minimales.
Mis à jour:
Sujets et lieux
Sujets proposés
- Science et technologieProposé
- Preserved editorial category/topic; broad candidate onlyarxiv.org ↗
Références géographiques
Seules les références géographiques présentes dans la source sont affichées. L’ouverture d’une carte externe est facultative. Les cartes facultatives utilisent OpenStreetMap. Leur ouverture transmet votre adresse IP et celle de ce site au fournisseur ; les coordonnées restent lisibles sans charger la carte.
- Allemagne · Rôle du lieu: Couverture · Type de lieu: Pays ou territoire · Précision de localisation: RégionaleÉléments probants
- Explicit preserved editorial country/region; no city or national centroid inferredarxiv.org ↗