SK hynix démontre des systèmes mémoire CXL pour agents d’IA à OCP 2026

Lors du sommet mondial OCP à San José, SK hynix a démontré des systèmes serveur d’IA utilisant la mutualisation de mémoire CXL. Avec Arcee, Liqid et Marvell, l’entreprise a montré le transfert et la réutilisation de caches KV entre plusieurs serveurs et GPU; elle affirme que le système a mieux performé que les méthodes conventionnelles reposant sur la communication réseau.

Lors d’une autre démonstration avec AMD, Penguin, Xcena et Arcee, le système prédisait les caches KV nécessaires à partir de l’historique des conversations et des tâches, puis les chargeait à l’avance dans la DRAM pour accélérer le traitement. La démonstration portait aussi sur le stockage du cache complet sur SSD tout en conservant des lectures rapides. SK hynix a également présenté, avec Pickle, une démonstration de mémoire mutualisée destinée à accélérer les transferts entre modèles dans un service d’agent personnel d’IA, ainsi qu’une démonstration CMM-Ax pour l’inférence de LLM à long contexte. Il s’agissait de démonstrations de l’entreprise; le communiqué n’établit pas de déploiement généralisé et ne fournit pas de résultats quantifiés pour ces exemples.