Saltar al contenido principal

Hugging Face Hub

Libre WebUI se integra con Hugging Face de dos formas:

  • Acceso mediante un plugin de proveedor a través de Hugging Face Inference Providers.
  • Navegación por el Hub desde la aplicación para modelos compatibles, incluidos los modelos GGUF que se pueden descargar mediante Ollama.

Configurar el plugin del proveedor​

Crea un token de acceso de Hugging Face con acceso de inferencia y añádelo en Configuración o como variable de entorno:

HUGGINGFACE_API_KEY=hf_...

Activa el plugin de Hugging Face en Configuración > Plugins.

Capacidades​

Según la disponibilidad del modelo y del proveedor, Hugging Face puede ofrecer:

  • Modelos de chat o completado
  • Conversión de texto a voz
  • Generación de imágenes
  • Embeddings
  • Conversión de voz a texto

La disponibilidad, los precios y el enrutamiento de Hugging Face pueden variar según el modelo. Consulta la página del modelo y la interfaz del proveedor de Hugging Face para conocer el estado actual.

Explorador de modelos​

El explorador integrado permite:

  • Buscar por nombre del modelo o autor.
  • Filtrar por tarea.
  • Ordenar por tendencia, descargas, «me gusta», fecha de creación o de actualización.
  • Consultar el estado de acceso restringido del modelo.
  • Descargar archivos GGUF compatibles mediante Ollama cuando sea posible.

El explorador obtiene los metadatos del Hub mediante el proxy del backend y almacena los resultados en caché para mejorar el rendimiento. El backend exige una sesión Libre activa para explorar el Hub, y solo un administrador actual puede borrar la caché compartida de modelos.

GGUF y Ollama​

Para la inferencia local, busca modelos en formato GGUF. Libre WebUI puede usar referencias de modelos hf.co/... compatibles con Ollama cuando un repositorio ofrece archivos GGUF adecuados.

Patrón de ejemplo:

ollama run hf.co/owner/model-repo:tag

Usa la interfaz siempre que sea posible; reduce los errores de copiar y pegar y mantiene visibles los metadatos del modelo.

Enrutamiento de Inference Provider​

El enrutador compatible con OpenAI de Hugging Face admite los ID de modelos del Hub. Algunas rutas aceptan sufijos o preferencias de proveedor. Como esto cambia con el tiempo, consulta la documentación actual de Hugging Face y el explorador integrado para obtener los ID exactos.

Modelos con acceso restringido​

Algunos modelos exigen aceptar condiciones antes de usarlos:

  1. Abre la página del modelo en Hugging Face.
  2. Acepta la licencia o las condiciones.
  3. Confirma que tu token tenga acceso.
  4. Vuelve a intentarlo desde Libre WebUI.

Los modelos restringidos pueden aparecer en la exploración antes de que tu token tenga permiso para ejecutarlos.

Solución de problemas​

No autorizado

  • Comprueba el valor del token.
  • Confirma que el token tenga permisos de inferencia.
  • Si usas credenciales por usuario, confirma que la clave esté guardada para el usuario actual.

Modelo no disponible

  • Consulta la página del modelo en Hugging Face.
  • Prueba otra ruta del proveedor si está disponible.
  • Confirma que hayas aceptado las condiciones de acceso restringido.

Falla la descarga de GGUF

  • Confirma que el repositorio contenga archivos GGUF.
  • Prueba la referencia hf.co/... exacta en una terminal con Ollama.
  • Usa una cuantización menor si el disco o la memoria son limitados.

Documentación relacionada​