Hugging Face Hub
Libre WebUI интегрируется с Hugging Face двумя способами:
- Доступ через плагин к Hugging Face Inference Providers.
- Просмотр Hub в приложении, включая GGUF для загрузки через Ollama.
Настройка плагина
Создайте токен Hugging Face с правом инференса и добавьте в Настройки или окружение:
HUGGINGFACE_API_KEY=hf_...
Включите плагин в Настройки > Плагины.
Возможности
В зависимости от доступности:
- Чат/дополнение
- Синтез речи
- Изображения
- Эмбеддинги
- Распознавание речи
Доступность, цены и маршрутизация меняются. Проверяйте страницу модели и интерфейс Hugging Face.
Обозреватель моделей
Можно:
- Искать по имени/автору.
- Фильтровать задачу.
- Сортировать по трендам, загрузкам, лайкам, датам.
- Проверять закрытый доступ.
- Загружать совместимые GGUF через Ollama.
Метаданные идут через серверный прокси и кэшируются. Для обнаружения нужна активная сессия Libre, очищать общий кэш может только текущий администратор.
GGUF и Ollama
Для локального инференса ищите GGUF. Libre использует ссылки hf.co/..., когда репозиторий имеет подходящие файлы.
Пример:
ollama run hf.co/owner/model-repo:tag
Предпочитайте интерфейс: меньше ошибок и видны метаданные.
Маршрутизация Inference Provider
Совместимый с OpenAI маршрутизатор поддерживает ID Hub, иногда суффиксы/предпочтения. Используйте актуальную документацию и обозреватель для точных ID.
Модели с ограничением
Иногда требуется принять условия:
- Откройте страницу модели.
- Примите лицензию.
- Проверьте доступ токена.
- Повторите в Libre WebUI.
Модель может появиться до разрешения запуска.
Устранение неполадок
Нет авторизации
- Проверьте токен.
- Права инференса.
- Ключ текущего пользователя.
Недоступна модель
- Страницу Hugging Face.
- Другой маршрут.
- Принятие условий.
Не загружается GGUF
- Наличие файлов.
- Точную
hf.co/...ссылку в Ollama. - Меньшее квантование.