Intel apresenta Inference Microservices para inferência de LLM em Xeon
A Intel anunciou software de microserviços em contêineres para servir grandes modelos de linguagem em processadores Xeon. Cada contêiner disponibiliza um modelo por uma API compatível com OpenAI e detecta o processador anfitrião ao iniciar para escolher o perfil validado pela Intel para aquele modelo e hardware.
Período do evento/dos dados: 2026-10-14
Publicado: · Atualizado:
A primeira versão usa vLLM em BF16 nos Xeon de 4ª, 5ª e 6ª gerações; a Intel recomenda 32 GB de RAM. A empresa diz que os perfis ajustam precisão, distribuição entre núcleos e organização da memória com base em testes próprios no hardware.
A Intel diz que o software roda localmente, sem endpoint hospedado ou chave de API, e que aplicações usam a interface padrão alterando a URL base. Suporte a GPU, outros mecanismos, gráficos Helm e operador Kubernetes são planos futuros, não recursos desta versão.
Dados
Lançamento de software da Intel
A Intel lançou software de inferência LLM com contêineres ajustados por modelo em processadores Xeon.
- · ocorrido
Intel apresenta Inference Microservices para inferência de LLM em Xeon
A Intel lançou software de inferência LLM com contêineres ajustados por modelo em processadores Xeon.
Metodologia
O evento é o anúncio de software da Intel em 14 de outubro de 2026. O escopo do produto e as afirmações sobre perfis validados são da Intel; o anúncio não apresenta benchmark independente.
Atualizado:
Temas e lugares
Sugestões de temas
- Inteligência artificialAnotação sugerida
- Subject suggested from the title or summary: LLMwww.intel.com ↗
- Informática e tecnologias de informaçãoAnotação sugerida
- Subject suggested from the title or summary: softwarewww.intel.com ↗
Referências geográficas
São exibidas apenas referências geográficas fornecidas pela fonte. Abrir um mapa externo é opcional. Os mapas opcionais das notícias usam o OpenStreetMap. Ao abrir um mapa, seu endereço IP e o endereço deste site são enviados ao provedor do mapa. Os dados de localização continuam disponíveis em texto sem carregar o mapa.
- Estados Unidos · Função do lugar: Cobertura · Tipo de lugar: país ou área · Precisão da localização: regionalEvidência
- Explicit preserved editorial country/region; no city or national centroid inferredwww.intel.com ↗