SK hynix, OCP 2026’da yapay zekâ ajanları için CXL bellek gösterimleri yaptı

SK hynix, San Jose’deki OCP Global Summit’te CXL bellek havuzlamasını kullanan yapay zekâ sunucu sistemi gösterimleri gerçekleştirdi. Şirket, Arcee, Liqid ve Marvell ile yaptığı gösterimde birden fazla sunucu ve GPU arasında KV önbelleği aktarımı ve yeniden kullanımını sergiledi; bunun geleneksel ağ iletişimine dayalı yöntemlerden daha iyi sistem performansı sağladığını bildirdi.

AMD, Penguin, Xcena ve Arcee ile yapılan başka bir gösterimde sistemin konuşma ve görev geçmişinden hangi KV önbelleklerine ihtiyaç duyulacağını tahmin ettiği ve bunları hızlı işleme için önceden DRAM’e yüklediği anlatıldı. Gösterim ayrıca tam önbelleğin SSD’de saklanıp hızlı okunmasını ele aldı. SK hynix ayrıca Pickle ile kişisel yapay zekâ ajanlarında birden fazla model arasındaki veri aktarımını hızlandırmaya yönelik havuzlanmış bellek gösterimi ve uzun bağlamlı büyük dil modeli çıkarımına yönelik CMM-Ax gösterimi sundu. Bunlar şirketin fuar gösterimleridir; duyuru, ölçülmüş sonuçları veya genel kullanıma açılmış dağıtımları ortaya koymuyor.