Hugging Face présente une application llama.cpp pour Windows
Llama Windows est une application open source permettant de télécharger des modèles ouverts depuis la zone de notification de Windows 11 et de les exécuter localement avec llama.cpp.
Période de l’événement / des données:
Publié: · Mis à jour:
Hugging Face a présenté Llama Windows le 13 octobre, une application accessible depuis la zone de notification de Windows 11. Les utilisateurs peuvent télécharger en un clic des versions quantifiées recommandées depuis le Hub Hugging Face, puis les charger dans un serveur llama.cpp local. L’application peut se connecter à un serveur existant ou démarrer l’installation qu’elle gère ; l’annonce précise qu’aucun droit d’administrateur n’est nécessaire.
Hugging Face indique que l’application prend en charge Windows sur Arm et NVIDIA RTX Spark, et que son serveur local propose une API compatible avec OpenAI à l’adresse localhost:9931. L’entreprise affirme que l’activité dans l’application reste sur l’appareil et n’est pas enregistrée ailleurs. Le logiciel est gratuit et open source ; l’annonce ne fournit pas d’évaluation indépendante des performances.
Données
Hugging Face présente une application llama.cpp pour Windows
- · Survenu
Publication de l’annonce
Llama Windows est une application open source permettant de télécharger des modèles ouverts depuis la zone de notification de Windows 11 et de les exécuter localement avec llama.cpp.
Méthodologie
Fonctions rapportées dans l’annonce du 13 octobre de Hugging Face ; aucun test indépendant de performance ou de confidentialité n’a été réalisé.
Mis à jour:
Sujets et lieux
Sujets proposés
- Science et technologieProposé
- Preserved editorial category/topic; broad candidate onlyhuggingface.co ↗