Hugging Face stellt eine llama.cpp-App für Windows vor
Llama Windows ist eine quelloffene App, mit der offene Modelle über die Windows-11-Taskleiste heruntergeladen und lokal mit llama.cpp ausgeführt werden können.
Ereignis-/Datenzeitraum:
Veröffentlicht: · Aktualisiert:
Hugging Face stellte Llama Windows am 13. Oktober vor. Die App läuft im Infobereich von Windows 11. Nutzer können empfohlene quantisierte Modellversionen mit einem Klick vom Hugging Face Hub laden und in einem lokalen llama.cpp-Server starten. Die App kann sich mit einem vorhandenen Server verbinden oder die von ihr verwaltete Installation starten; laut Ankündigung sind dafür keine Administratorrechte nötig.
Hugging Face zufolge unterstützt die App Windows auf Arm und NVIDIA RTX Spark; ihr lokaler Server stellt unter localhost:9931 eine OpenAI-kompatible API bereit. Das Unternehmen erklärt, dass die Nutzung auf dem Gerät bleibt und nicht anderswo gespeichert wird. Die Software ist kostenlos und quelloffen; eine unabhängige Leistungsbewertung enthält die Ankündigung nicht.
Daten
Hugging Face stellt eine llama.cpp-App für Windows vor
- · eingetreten
Veröffentlichung der Mitteilung
Llama Windows ist eine quelloffene App, mit der offene Modelle über die Windows-11-Taskleiste heruntergeladen und lokal mit llama.cpp ausgeführt werden können.
Methodik
Funktionen laut Hugging-Face-Mitteilung vom 13. Oktober; keine unabhängigen Leistungs- oder Datenschutztests.
Aktualisiert:
Themen und Orte
Themenvorschläge
- Wissenschaft, Technik, ForschungVorgeschlagene Kennzeichnung
- Preserved editorial category/topic; broad candidate onlyhuggingface.co ↗