SK hynix demonstriert CXL-Speichersysteme für KI-Agenten auf der OCP 2026

Auf dem OCP Global Summit in San José demonstrierte SK hynix KI-Serversysteme mit gepooltem CXL-Speicher. Bei einer Vorführung mit Arcee, Liqid und Marvell zeigte das Unternehmen die Übertragung und Wiederverwendung von KV-Caches über mehrere Server und GPUs hinweg; laut SK hynix war die Systemleistung besser als bei herkömmlichen Verfahren mit Netzwerkkommunikation.

Bei einer weiteren Demonstration mit AMD, Penguin, Xcena und Arcee sagte das System anhand des Gesprächs- und Aufgabenverlaufs benötigte KV-Caches voraus und lud sie für eine schnellere Verarbeitung vorab in den DRAM. Gezeigt wurde außerdem, wie sich der vollständige Cache auf einer SSD speichern und dennoch schnell lesen lässt. SK hynix zeigte außerdem gemeinsam mit Pickle gepoolten Speicher zur Beschleunigung von Transfers zwischen Modellen eines persönlichen KI-Agentendienstes sowie eine CMM-Ax-Demonstration für die Inferenz von LLMs mit langem Kontext. Es handelte sich um Unternehmensdemonstrationen; die Mitteilung belegt weder einen breiten Produktiveinsatz noch quantifizierte Ergebnisse für diese Beispiele.