Intel stellt Inference Microservices für LLM-Inferenz auf Xeon vor
Intel kündigte containerbasierte Inference-Microservices-Software für große Sprachmodelle auf Xeon-Prozessoren an. Jeder Container stellt ein Modell über eine OpenAI-kompatible API bereit und erkennt beim Start den Prozessor, um Intels validiertes Profil für Modell und Hardware auszuwählen.
Ereignis-/Datenzeitraum: 2026-10-14
Veröffentlicht: · Aktualisiert:
Die erste Version nutzt vLLM mit BF16 auf Xeon-Prozessoren der 4., 5. und 6. Generation; Intel empfiehlt 32 GB RAM. Laut Unternehmen konfigurieren die Profile Genauigkeit, Kernverteilung und Speicherlayout auf Grundlage eigener Hardwaretests.
Intel zufolge läuft die Software lokal, ohne gehosteten Endpunkt oder API-Schlüssel; Anwendungen können die Standardschnittstelle durch Ändern der Basis-URL nutzen. GPU-Unterstützung, weitere Engines, Helm-Charts und ein Kubernetes-Operator sind Zukunftspläne und nicht Teil dieser Version.
Daten
Intel-Softwareveröffentlichung
Intel veröffentlichte LLM-Inferenzsoftware mit modellbezogen optimierten Containern für Xeon-Prozessoren.
- · eingetreten
Intel stellt Inference Microservices für LLM-Inferenz auf Xeon vor
Intel veröffentlichte LLM-Inferenzsoftware mit modellbezogen optimierten Containern für Xeon-Prozessoren.
Methodik
Das Ereignis ist Intels Softwareankündigung vom 14. Oktober 2026. Produktumfang und Aussagen zu validierten Profilen stammen von Intel; unabhängige Benchmark-Ergebnisse enthält die Mitteilung nicht.
Aktualisiert:
Themen und Orte
Themenvorschläge
- Künstliche IntelligenzVorgeschlagene Kennzeichnung
- Subject suggested from the title or summary: LLMwww.intel.com ↗
- Computer und InformationstechnologieVorgeschlagene Kennzeichnung
- Subject suggested from the title or summary: softwarewww.intel.com ↗
Geografische Angaben
Angezeigt werden nur geografische Angaben aus der Quelle. Eine externe Karte lässt sich optional öffnen. Optionale Karten in Artikeln nutzen OpenStreetMap. Beim Öffnen werden Ihre IP-Adresse und die Adresse dieser Website an den Kartenanbieter übermittelt. Ortsangaben bleiben auch ohne Karte als Text lesbar.
- Vereinigte Staaten · Funktion des Ortes: Abdeckung · Art des Ortes: Land oder Gebiet · Ortsgenauigkeit: regionalBeleg
- Explicit preserved editorial country/region; no city or national centroid inferredwww.intel.com ↗