Intel présente Inference Microservices pour l’inférence de modèles sur Xeon
Intel a annoncé un logiciel de microservices en conteneurs pour servir des grands modèles de langage sur ses processeurs Xeon. Chaque conteneur expose un seul modèle derrière une API compatible avec OpenAI et détecte son processeur au démarrage afin de sélectionner le profil validé par Intel pour ce modèle et ce matériel.
Période de l’événement / des données: 2026-10-14
Publié: · Mis à jour:
La première version utilise vLLM en BF16 sur les Xeon de 4e, 5e et 6e générations; Intel recommande 32 Go de RAM. L’entreprise indique que les profils règlent la précision, la répartition du travail sur les cœurs et la disposition mémoire, à partir de ses propres tests matériels.
Intel indique que le logiciel s’exécute localement, sans point d’accès hébergé ni clé API; les applications peuvent utiliser l’interface standard en changeant l’URL de base. Le support des GPU, d’autres moteurs, de graphiques Helm et d’un opérateur Kubernetes est prévu ultérieurement et n’est pas inclus dans cette version.
Données
Version logicielle d’Intel
Intel a publié un logiciel d’inférence LLM utilisant des conteneurs réglés par modèle sur processeurs Xeon.
- · Survenu
Intel présente Inference Microservices pour l’inférence de modèles sur Xeon
Intel a publié un logiciel d’inférence LLM utilisant des conteneurs réglés par modèle sur processeurs Xeon.
Méthodologie
L’événement est l’annonce logicielle d’Intel du 14 octobre 2026. Le périmètre du produit et les affirmations de validation des réglages viennent d’Intel; aucun benchmark indépendant n’est fourni.
Mis à jour:
Sujets et lieux
Sujets proposés
- Intelligence artificielleProposé
- Subject suggested from the title or summary: LLMwww.intel.com ↗
- Informatique et télécommunicationsProposé
- Subject suggested from the title or summary: softwarewww.intel.com ↗
Références géographiques
Seules les références géographiques présentes dans la source sont affichées. L’ouverture d’une carte externe est facultative. Les cartes facultatives utilisent OpenStreetMap. Leur ouverture transmet votre adresse IP et celle de ce site au fournisseur ; les coordonnées restent lisibles sans charger la carte.
- États-Unis · Rôle du lieu: Couverture · Type de lieu: Pays ou territoire · Précision de localisation: RégionaleÉléments probants
- Explicit preserved editorial country/region; no city or national centroid inferredwww.intel.com ↗