# SlackSwap combine transferts et recalcul lorsque la mémoire GPU est limitée

> Des chercheurs de l’UC Merced et de l’Université du Texas à Austin ont présenté SlackSwap, un planificateur d’entraînement en apprentissage profond. Il recalcule certaines activations lorsque le budget de transfert entre GPU et mémoire hôte est dépassé; les résultats sont simulés et non mesurés sur matériel.

- URL canonique: https://newsverum.com/fr/news/slackswap-activation-memory-gpu-training-2026
- Éditeur: Newsverum
- Rubrique: Technologie
- Pays: États-Unis
- Publié: 2026-10-13T01:40:12+00:00
- Mis à jour: 2026-10-13T01:40:12+00:00
- Période de consultation de la source: 2026-10-09
- Autres éditions: [Türkçe](https://newsverum.com/tr/news/slackswap-activation-memory-gpu-training-2026.md), [English](https://newsverum.com/en/news/slackswap-activation-memory-gpu-training-2026.md), [العربية](https://newsverum.com/ar/news/slackswap-activation-memory-gpu-training-2026.md), [Español](https://newsverum.com/es/news/slackswap-activation-memory-gpu-training-2026.md), [Deutsch](https://newsverum.com/de/news/slackswap-activation-memory-gpu-training-2026.md), [Português](https://newsverum.com/pt/news/slackswap-activation-memory-gpu-training-2026.md)

*La source ne précise pas la date de l’événement ; la période indiquée est celle de la consultation de la source.*

Les activations intermédiaires conservées pour la rétropropagation peuvent dépasser la mémoire GPU pendant l’entraînement d’un réseau neuronal. SlackSwap profile une étape et utilise comme budget le temps de transfert pouvant être masqué par le calcul: il transfère dans ce budget les activations coûteuses à reconstruire et recalcule les autres.

Dans une simulation à événements discrets paramétrée pour un A100 et PCIe 4.0, avec un budget mémoire d’activations égal à la moitié du pic sans limite, SlackSwap conserve 96,3 % du débit idéal pour BERT-Large, 97,6 % pour GPT-2 XL et 99,6 % pour un modèle de type Llama-7B. Les auteurs précisent que tous les résultats sont simulés et que des effets comme la fragmentation de l’allocateur ne sont pas modélisés; ce ne sont pas des mesures d’entraînement sur GPU réel.

## Données

### Débit d’entraînement simulé

Les résultats proviennent d’une simulation, pas d’un GPU physique.

Méthodologie: L’étude évalue trois charges Transformer avec un budget mémoire d’activations de 50 % dans une simulation à événements discrets paramétrée pour un A100 et PCIe 4.0.

| Modèle | Débit par rapport à l’idéal |
|---|---|
| BERT-Large | 96.3 |
| GPT-2 XL | 97.6 |
| modèle de type Llama-7B | 99.6 |

Sources: <https://arxiv.org/abs/2610.13003> · Télécharger les données: [JSON](https://newsverum.com/api/v1/articles/slackswap-activation-memory-gpu-training-2026/data/simulated-training-throughput?lang=fr&format=json) · [CSV](https://newsverum.com/api/v1/articles/slackswap-activation-memory-gpu-training-2026/data/simulated-training-throughput?lang=fr&format=csv)

## Sources

- [arXiv](<https://arxiv.org/abs/2610.13003>) (Source vérifiée: 2026-10-13; Publié: 2026-10-09)

---

Citez l’URL canonique ci-dessus. [Principes éditoriaux et corrections](https://newsverum.com/fr/editorial)