Hugging Face apresenta aplicação llama.cpp para Windows
Llama Windows é uma aplicação de código aberto para descarregar modelos abertos a partir do tabuleiro do Windows 11 e executá-los localmente com llama.cpp.
Período do evento/dos dados:
Publicado: · Atualizado:
A Hugging Face apresentou o Llama Windows em 13 de outubro, uma aplicação que funciona na área de notificações do Windows 11. Os utilizadores podem descarregar com um clique versões quantizadas recomendadas do Hugging Face Hub e carregá-las num servidor local llama.cpp. A aplicação pode ligar-se a um servidor existente ou iniciar a instalação que gere; o anúncio diz que não são necessários privilégios de administrador.
A Hugging Face afirma que a aplicação chega com suporte para Windows em Arm e NVIDIA RTX Spark, e que o servidor local disponibiliza uma API compatível com OpenAI em localhost:9931. A empresa diz que a atividade na aplicação permanece no dispositivo e não é guardada noutro local. O software é gratuito e de código aberto; o anúncio não apresenta uma avaliação independente do desempenho.
Dados
Hugging Face apresenta aplicação llama.cpp para Windows
- · ocorrido
Publicação do anúncio
Llama Windows é uma aplicação de código aberto para descarregar modelos abertos a partir do tabuleiro do Windows 11 e executá-los localmente com llama.cpp.
Metodologia
Funções descritas no anúncio da Hugging Face de 13 de outubro; não foi feito teste independente de desempenho ou privacidade.
Atualizado:
Temas e lugares
Sugestões de temas
- Ciência e tecnologiaAnotação sugerida
- Preserved editorial category/topic; broad candidate onlyhuggingface.co ↗