Intel, Xeon üzerinde LLM çıkarımı için Inference Microservices’i tanıttı
Intel, büyük dil modellerini Intel Xeon işlemcilerinde çalıştırmak için konteyner tabanlı Inference Microservices yazılımını duyurdu. Her konteyner tek bir modeli OpenAI uyumlu API arayüzü arkasında sunuyor ve başlatıldığı işlemciyi algılayarak Intel’in o model ve donanım için doğruladığı profili seçiyor.
Olay / veri dönemi: 2026-10-14
Yayın: · Güncelleme:
İlk sürüm 4., 5. ve 6. nesil Xeon işlemcilerinde vLLM ve BF16 ile çalışıyor; Intel 32 GB RAM’i öneriyor. Intel, ayarların hassasiyet, çekirdek dağıtımı ve bellek yerleşimini kapsadığını, profillerin kendi donanım testlerinden geldiğini söylüyor.
Intel, yazılımın barındırılan bir uç nokta veya API anahtarı olmadan yerel olarak çalıştığını ve uygulamaların temel URL’yi değiştirerek standart arayüzü kullanabileceğini belirtiyor. GPU desteği, başka çıkarım motorları, Helm şablonu ve Kubernetes operatörü gelecekteki planlar arasında; ilk sürümün mevcut yetenekleri olarak sunulmuyor.
Veriler
Intel yazılım sürümü
Intel, Xeon işlemciler üzerinde model başına ayarlanmış konteynerlerle LLM çıkarım yazılımını yayımladı.
- · Gerçekleşti
Intel, Xeon üzerinde LLM çıkarımı için Inference Microservices’i tanıttı
Intel, Xeon işlemciler üzerinde model başına ayarlanmış konteynerlerle LLM çıkarım yazılımını yayımladı.
Yöntem
Olay, Intel’in 14 Ekim 2026 tarihli yazılım duyurusudur. Ürün kapsamı ve ayarların doğrulandığına ilişkin ifadeler Intel’e aittir; duyuruda bağımsız kıyaslama sonucu sunulmamıştır.
Güncelleme:
Konular ve yerler
Konu önerileri
- Yapay zekâÖneri
- Subject suggested from the title or summary: LLMwww.intel.com ↗
- Bilişim teknolojileriÖneri
- Subject suggested from the title or summary: softwarewww.intel.com ↗
Coğrafi referanslar
Yalnızca kaynakta bulunan coğrafi referanslar gösterilir. Harici haritayı açmak isteğe bağlıdır. İsteğe bağlı haber haritaları OpenStreetMap kullanır. Haritayı açtığınızda IP adresiniz ve site adresi harita sağlayıcısına iletilir; harita yüklenmeden konum verileri metin olarak okunabilir.
- Amerika Birleşik Devletleri · Yer rolü: Kapsam · Yer türü: Ülke veya bölge · Konum kesinliği: BölgeselKanıt
- Explicit preserved editorial country/region; no city or national centroid inferredwww.intel.com ↗