Intel presenta Inference Microservices para inferencia de modelos en Xeon
Intel anunció software de microservicios en contenedores para servir modelos de lenguaje grandes en procesadores Xeon. Cada contenedor ofrece un modelo mediante una API compatible con OpenAI y detecta el procesador anfitrión al iniciarse para elegir el perfil validado por Intel para ese modelo y hardware.
Período del evento / de los datos: 2026-10-14
Publicado: · Actualizado:
La primera versión funciona con vLLM en BF16 sobre Xeon de 4.ª, 5.ª y 6.ª generación; Intel recomienda 32 GB de RAM. La empresa dice que los perfiles ajustan precisión, distribución entre núcleos y disposición de memoria, según pruebas propias en hardware.
Intel afirma que el software se ejecuta localmente, sin endpoint alojado ni clave de API, y que las aplicaciones pueden usar la interfaz estándar cambiando la URL base. El soporte para GPU, otros motores, gráficos Helm y un operador de Kubernetes está previsto para el futuro, no en esta versión.
Datos
Versión de software de Intel
Intel publicó software de inferencia LLM con contenedores ajustados por modelo en procesadores Xeon.
- · Ocurrido
Intel presenta Inference Microservices para inferencia de modelos en Xeon
Intel publicó software de inferencia LLM con contenedores ajustados por modelo en procesadores Xeon.
Metodología
El evento es el anuncio de software de Intel del 14 de octubre de 2026. El alcance y las afirmaciones sobre perfiles validados provienen de Intel; el anuncio no ofrece resultados de referencia independientes.
Actualizado:
Temas y lugares
Propuestas temáticas
- Inteligencia artificialSugerido
- Subject suggested from the title or summary: LLMwww.intel.com ↗
- Computación e informáticaSugerido
- Subject suggested from the title or summary: softwarewww.intel.com ↗
Referencias geográficas
Solo se muestran referencias geográficas proporcionadas por la fuente. Abrir un mapa externo es opcional. Los mapas opcionales usan OpenStreetMap. Al abrirlos se envían tu dirección IP y la de este sitio al proveedor; los datos de ubicación pueden leerse sin cargar el mapa.
- Estados Unidos · Función del lugar: Cobertura · Tipo de lugar: País o área · Precisión de ubicación: RegionalEvidencia
- Explicit preserved editorial country/region; no city or national centroid inferredwww.intel.com ↗