Hugging Face Hub
A Libre WebUI két módon integrál:
- Szolgáltatói plugin Hugging Face Inference Providers használatával.
- Hub-böngészés kompatibilis modellekhez, köztük Ollama által letölthető GGUF.
Beállítás
Hozzon létre inference-hozzáférésű tokent, és adja meg Settingsben vagy környezeti változóként:
HUGGINGFACE_API_KEY=hf_...
Aktiválja a plugint a Settings > Plugins alatt.
Képességek
Elérhetőségtől függően: chat/completion, TTS, kép, embeddings, STT. Az ár és routing változhat; ellenőrizze a modelloldalt és a Hugging Face UI-t.
Modellböngésző
Kereshet név/szerző, szűrhet feladat szerint, rendezhet trend/download/likes/dátum alapján, ellenőrizhet gated státuszt és letölthet GGUF-ot Ollamán át. A backend proxy cache-el; aktív Libre session kell, a közös cache-t csak admin törli.
GGUF és Ollama
Helyi inferenciához keressen GGUF-ot. A Libre hf.co/... hivatkozást használ megfelelő fájloknál.
ollama run hf.co/owner/model-repo:tag
Az UI csökkenti a másolási hibákat és megőrzi a metadata láthatóságát.
Inference Provider routing
Az OpenAI-kompatibilis router Hub ID-kat és néha suffix/preference értékeket támogat. Pontos ID-hoz használja az aktuális dokumentációt és böngészőt.
Gated modellek
- Nyissa meg a modelloldalt, fogadja el a licencet, ellenőrizze a tokent és próbálja újra.
A discovery megjelenítheti, mielőtt a token futtathatja.
Hibaelhárítás
Unauthorized: ellenőrizze a tokent, inference jogot és aktuális felhasználói kulcsot.
Unavailable: modelloldal, másik provider route és elfogadott feltételek.
GGUF pull hiba: repository-fájlok, exact hf.co/... terminalban, kisebb quantization.