Hugging Face presenta una aplicación de llama.cpp para Windows
Llama Windows es una aplicación de código abierto para descargar modelos abiertos desde la bandeja de Windows 11 y ejecutarlos localmente con llama.cpp.
Período del evento / de los datos:
Publicado: · Actualizado:
Hugging Face presentó Llama Windows el 13 de octubre, una aplicación que funciona desde el área de notificaciones de Windows 11. Los usuarios pueden descargar con un clic versiones cuantizadas recomendadas desde Hugging Face Hub y cargarlas en un servidor local de llama.cpp. La aplicación puede conectarse a un servidor existente o iniciar la instalación que administra; el anuncio indica que no requiere permisos de administrador.
Hugging Face afirma que la aplicación llega con compatibilidad para Windows en Arm y NVIDIA RTX Spark, y que su servidor local ofrece una API compatible con OpenAI en localhost:9931. La empresa dice que la actividad realizada con la aplicación permanece en el dispositivo y no se guarda en otro lugar. El programa es gratuito y de código abierto; el anuncio no ofrece una evaluación independiente del rendimiento.
Datos
Hugging Face presenta una aplicación de llama.cpp para Windows
- · Ocurrido
Publicación del anuncio
Llama Windows es una aplicación de código abierto para descargar modelos abiertos desde la bandeja de Windows 11 y ejecutarlos localmente con llama.cpp.
Metodología
Funciones comunicadas por Hugging Face el 13 de octubre; no se realizó una prueba independiente de rendimiento o privacidad.
Actualizado:
Temas y lugares
Propuestas temáticas
- Ciencia y tecnologíaSugerido
- Preserved editorial category/topic; broad candidate onlyhuggingface.co ↗