AI-modellek használata
A Libre WebUI helyi Ollama és pluginos cloud modelleket használ egy workspace-ben. A Model Manager telepített/futó Ollama, live Library, Hugging Face GGUF és Cloud elemeket mutat.
Első modell
| Modell | Mire jó | Tipikus igény |
|---|---|---|
gemma4:12b | Gyors általános chat | 16 GB RAM vagy 8 GB VRAM |
qwen3.8:27b | Chat, kód, többnyelvű | 32 GB RAM vagy 16–24 GB VRAM |
gemma4:26b | Erős MoE chat | 24 GB RAM vagy 16 GB VRAM |
gemma4:31b | Legjobb dense helyi chat | 32 GB RAM vagy 24 GB VRAM |
nomic-embed-text | Dokumentum-embedding | Kis helyi modell |
Nagy 30B/70B/MoE több memóriát kér. Kezdje kicsiben és növelje stabil futás után.
Model Manager
A Settings → Models alatt letöltés névvel, live Library-keresés, futó modellek
leállítása/törlése, az összes telepített Ollama-modell frissítése egyetlen művelettel,
GGUF és Cloud letöltés. A UI kezeli a :cloud/-cloud suffixet.
Katalógus és láthatóság
A Settings → Defaults alatti Model Catalog minden modellt provider badge-dzsel és kereséssel listáz; az alapértelmezett modellt a katalógus fölött választja ki, ezzel indulnak az új chatek. Az admin csillaggal a katalógus és az alapértelmezett-modell menü elejére tűzhet egy modellt: több csillagnál a legutóbb megjelölt kerül előre, a csillag levétele visszaadja a kézi vagy a provider szerinti helyet. Admin szemkapcsolóval el is rejthet modellt mások elől. Ez kuráció, nem authorization boundary; admin mindent lát.
Helyi és cloud
| Mód | Előny | Hátrány |
|---|---|---|
| Helyi Ollama | Privát, letöltés után offline, fix költség | CPU/GPU/RAM függő |
| Ollama Cloud | Ismert flow helyi hardverlimit nélkül | Cloud és hálózat kell |
| Provider plugin | Több managed modell | Keys, ár és privacy policy |
Helyi modell privát munkához, plugin nagyobb hosted feladathoz.
Alapértelmezett vision modell
Válasszon a Settings → Defaults → Specialized Models → Vision Model alatt. Képet tartalmazó kör — új, korábbi vagy incognito history — oda kerül, text-only a session modelhez.
Felhasználónkénti, automatikus, csendes. Use the current chat model kikapcsolja. A kép jelenlétét nézi, nem a session képességét.
Pontos provider identity mentődik, ezért azonos név nem foglalható el. Ha elvész, a képet tartalmazó kör hibára fut. Válassza ki újra a modellt a Settings → Defaults → Specialized Models → Vision Model alatt; a hangos hiba szándékos, nincs csendes helyettesítés.
Work-modellek
- Telepített Ollama
toolscapabilityvel. - Ollama Cloud.
- Aktív chat/completion plugin pontos modellel és admin credentiallel.
Az adapter OpenAI, Anthropic vagy Gemini, exact provider type/ID mentve task/run mellett. Azonos név nem térít el, tools elutasítása hibázik fallback nélkül.
Helyi Ollama helyben tartja a kérést. Remote provider megkapja Work system promptot, conversationt, tool definitions/results, amelyekben source, output és directories lehetnek. Volumes és credentials hoston maradnak, de file content tool resultként távozhat.
Egy run sok calls. Sensitive project előtt pricing, retention, training ellenőrzése.
Hardverútmutató
| Rendszer | Modell | Megjegyzés |
|---|---|---|
| CPU, 8–16 GB RAM | 1B–4B | Könnyű chat |
| 8 GB VRAM | 4B–8B quantized | Jó kezdet |
| 12–16 GB VRAM | 8B–14B quantized | Napi használat |
| 24 GB VRAM | 14B–32B quantized | Erős workstation |
| 48 GB+ VRAM/unified memory | 32B–70B quantized | Nagy kísérletek |
Q4 praktikus alap, Q8 több memória/jobb minőség.
Feladatajánlások
| Feladat | Irány |
|---|---|
| Gyors chat | gemma4:12b és kis aktuális |
| Kód | Qwen Coder, Codestral, provider coding |
| Reasoning | Nagy Qwen/Gemma vagy provider reasoning |
| Vision | LLaVA, Qwen VL vagy provider vision |
| Dokumentum | nomic-embed-text vagy más embedding |
| TTS | Qwen3-TTS vagy Kyutai TTS |
A providernevek változnak; használjon discoveryt vagy exact dashboard ID-t.
Prompt és beállítás
- Temperature, token, context, penalties az Advanced generation settings alatt.
0.1-0.3tényszerű,0.5-0.7normál,0.8+kreatív.- Tartsa ésszerűen a contextet és használjon perszonát tartós paraméterhez.
Hibaelhárítás
Pull hiba: ollama list, terminal, disk, Cloud suffix kezelése.
Lassú: kisebb modell/quantization, ollama ps, GPU appok bezárása, kisebb context.
Memória: Q8→Q4, 14B→8B, csak szükséges modell; Dockerben GPU/Ollama host.