Lavorare con i modelli IA
Libre WebUI può usare nello stesso spazio di lavoro sia modelli Ollama locali sia modelli cloud gestiti tramite plugin. Il gestore dei modelli mostra i modelli Ollama installati, quelli in esecuzione, i risultati in tempo reale dalla libreria Ollama, le voci GGUF di Hugging Face e, quando disponibili, le voci di Ollama Cloud.
Scegliere il primo modello
Usa questi modelli come punto di partenza, poi cambiali in base all'hardware e all'attività:
| Modello | Indicato per | Configurazione tipica |
|---|---|---|
gemma4:12b | Chat generica veloce | 16 GB RAM o 8 GB VRAM |
qwen3.8:27b | Chat generica, programmazione, più lingue | 32 GB RAM o 16-24 GB VRAM |
gemma4:26b | Chat potente con l'efficienza MoE | 24 GB RAM o 16 GB VRAM |
gemma4:31b | Chat locale densa della massima qualità | 32 GB RAM o 24 GB VRAM |
nomic-embed-text | Embedding di documenti | Piccolo modello di embedding locale |
I modelli di grandi dimensioni, come quelli 30B, 70B e MoE, possono essere eccellenti, ma richiedono molta più memoria. Se non sai quale scegliere, inizia con un modello piccolo e passa a uno più grande dopo aver verificato che funzioni senza rallentamenti.
Gestore dei modelli
Apri Impostazioni → Modelli per:
- Scaricare modelli da Ollama in base al nome.
- Cercare nella libreria Ollama in tempo reale invece di affidarti a un elenco statico.
- Vedere i modelli installati e in esecuzione.
- Aggiornare in un'unica operazione tutti i modelli Ollama installati.
- Arrestare o scaricare dalla memoria i modelli in esecuzione.
- Eliminare i modelli che non ti servono più.
- Scaricare tramite Ollama i modelli GGUF di Hugging Face compatibili.
- Scaricare i modelli Ollama Cloud dal filtro cloud.
Per i risultati di Ollama Cloud, l'interfaccia normalizza i nomi dei modelli cloud prima del download. Se un modello cloud richiede il suffisso :cloud o -cloud, Libre WebUI lo applica automaticamente nel flusso dedicato ai modelli cloud.
Catalogo e visibilità dei modelli
Il Catalogo modelli, in Impostazioni → Predefiniti, elenca tutti i modelli di chat selezionabili, sia locali sia forniti da un provider, con un badge del provider e una casella di ricerca. Scegli il modello predefinito sopra il catalogo per stabilire con quale modello inizieranno le nuove chat.
Gli amministratori possono aggiungere una stella a un modello per fissarlo in cima al catalogo e al menu del modello predefinito. Se le stelle sono più di una, compare per primo il modello contrassegnato più di recente; togliendo la stella il modello torna alla sua posizione manuale o a quella del provider.
Gli amministratori dispongono di un controllo aggiuntivo per ogni riga: un interruttore con l'icona di un occhio che nasconde un modello dai selettori di tutti gli altri utenti. In questo modo è possibile ridurre i cataloghi lunghi ai soli modelli che il server vuole effettivamente proporre. Si tratta di un perfezionamento dell'elenco, non di un controllo di autorizzazione: consideralo uno strumento di selezione, non un confine di sicurezza. Gli amministratori vedono sempre l'elenco completo, con i modelli nascosti contrassegnati.
Modelli locali e cloud
| Modalità | Vantaggi | Compromessi |
|---|---|---|
| Ollama locale | Privato, offline dopo il download, costo prevedibile | Dipende da CPU, GPU e RAM |
| Ollama Cloud | Flusso Ollama familiare senza limiti hardware locali | Richiede accesso al cloud e alla rete |
| Plugin dei provider | Accesso a modelli gestiti da più provider | Si applicano chiavi API, prezzi e informativa sulla privacy del provider |
Puoi conservare i modelli locali per il lavoro privato e abilitare i plugin dei provider per le attività che richiedono modelli ospitati più grandi.
Modello di visione predefinito
Puoi chattare con un modello di testo veloce e continuare a inviare immagini. Scegli un modello di visione in Impostazioni → Predefiniti → Modelli specializzati → Modello di visione; ogni volta che il contesto della chat in uscita contiene immagini — un nuovo allegato, un'immagine già presente nella sessione o la cronologia di una chat in incognito — quel turno viene instradato al modello di visione configurato anziché al modello della sessione. I turni di solo testo continuano a usare il modello della sessione.
L'impostazione è specifica per utente e l'instradamento è automatico e silenzioso. Lasciare selezionato Usa il modello della chat corrente disabilita la funzione. Nota che il controllo riguarda la presenza di immagini, non le capacità del modello della sessione: quando è configurato un modello di visione, viene usato per ogni turno contenente immagini, anche se il modello della sessione sarebbe in grado di gestirle.
La selezione memorizza l'identità esatta del provider (Ollama o un plugin specifico) insieme al nome del modello, così un provider non può acquisire un modello con lo stesso nome. Se la selezione salvata perde tale identità, ad esempio perché il modello o il provider non è più disponibile, un turno contenente immagini non riesce. Seleziona di nuovo il modello in Impostazioni → Predefiniti → Modelli specializzati → Modello di visione per ripristinarlo. L'errore esplicito è intenzionale: Libre WebUI non sostituisce silenziosamente il modello con quello di un altro provider.
Modelli per Work
Work richiede un modello di chat capace di chiamare strumenti. Può usare:
- Un modello Ollama installato che dichiara la funzionalità
tools. - Un modello Ollama Cloud disponibile tramite l'endpoint Ollama configurato.
- Un modello elencato da un plugin di chat o completamento attivo, con credenziali configurate per l'amministratore corrente.
Le esecuzioni Work basate su plugin usano l'adattatore del provider appropriato al plugin configurato: compatibile con OpenAI, Anthropic oppure Gemini. Libre WebUI conserva con l'attività e con ogni esecuzione il tipo esatto di provider e l'identificatore del plugin, così un plugin non può acquisire un modello Ollama con lo stesso nome. Se il modello o il provider selezionato rifiuta le chiamate agli strumenti, l'esecuzione non riesce invece di passare silenziosamente a un altro provider.
Con Ollama locale, le richieste ai modelli restano sull'infrastruttura Ollama configurata. Con un modello remoto, il provider configurato riceve il prompt di sistema Work, la conversazione, le definizioni degli strumenti e i risultati degli strumenti. Questi risultati possono includere testo sorgente, output di comandi o elenchi di directory richiesti dal modello. I volumi dello spazio di lavoro e le credenziali dei provider restano sull'host del backend, ma il contenuto di un file può lasciare tale host quando viene incluso nel risultato di uno strumento.
Una singola esecuzione Work autonoma può effettuare più chiamate al modello. Prima di usare progetti sensibili, controlla le politiche del provider remoto relative a prezzi, conservazione e addestramento. Libre WebUI mostra in Work un avviso sul provider remoto con un controllo per nasconderlo disponibile per ogni utente.
Guida all'hardware
| Sistema | Intervallo di modelli pratico | Note |
|---|---|---|
| Solo CPU, 8-16 GB RAM | 1B-4B | Adatto a chat leggere e test |
| 8 GB VRAM | 4B-8B quantizzati | Un buon punto di partenza |
| 12-16 GB VRAM | 8B-14B quantizzati | Buon intervallo per l'uso quotidiano |
| 24 GB VRAM | 14B-32B quantizzati | Potente workstation locale |
| 48 GB+ VRAM o grande memoria unificata | 32B-70B quantizzati | Sperimentazione con modelli grandi |
I modelli quantizzati usano meno memoria. Le quantizzazioni Q4 sono in genere la scelta pratica predefinita; Q8 usa più memoria per offrire una qualità migliore.
Consigli in base all'attività
| Attività | Tipo di modello |
|---|---|
| Chat veloce | gemma4:12b e altri modelli piccoli e recenti |
| Programmazione | Qwen Coder, Codestral, modelli di programmazione dei provider |
| Ragionamento | Modelli Qwen e Gemma più grandi, modelli di ragionamento dei provider |
| Visione | Modelli multimodali come LLaVA, Qwen VL o modelli di visione dei provider |
| Ricerca nei documenti | nomic-embed-text o un altro modello di embedding |
| Sintesi vocale | Plugin TTS come Qwen3-TTS o Kyutai TTS |
I nomi dei modelli dei provider cambiano spesso. In Libre WebUI, usa il rilevamento dei modelli del provider, quando disponibile, oppure incolla l'ID esatto del modello dal pannello del provider.
Prompt e impostazioni
- I controlli di generazione, come temperatura, limiti dei token, lunghezza del contesto e penalità, sono raggruppati in Impostazioni di generazione avanzate e restano chiusi per impostazione predefinita.
- Usa una temperatura bassa (
0.1-0.3) per risposte fattuali e ripetibili. - Usa una temperatura media (
0.5-0.7) per il normale lavoro dell'assistente. - Usa una temperatura alta (
0.8+) per brainstorming e scrittura creativa. - Mantieni ragionevole la lunghezza del contesto quando sei vicino ai limiti di memoria.
- Usa le persona quando vuoi parametri del modello persistenti e un prompt di sistema riutilizzabile.
Risoluzione dei problemi
Il download non riesce
- Verifica che Ollama sia in esecuzione:
ollama list. - Prova lo stesso download in un terminale per vedere l'errore non elaborato di Ollama.
- Controlla lo spazio su disco prima di scaricare modelli grandi.
- Se usi il filtro cloud del gestore dei modelli, lascia che Libre WebUI gestisca i suffissi cloud.
Le risposte sono lente
- Prova un modello più piccolo o una quantizzazione inferiore.
- Usa
ollama psper vedere che cosa è caricato. - Chiudi le altre applicazioni che usano intensamente la GPU.
- Riduci la lunghezza del contesto.
Memoria insufficiente
- Passa da Q8 a Q4.
- Usa un modello 8B anziché uno 14B.
- Mantieni caricato soltanto il modello che ti serve.
- Con Docker, verifica che il container possa accedere alla GPU o all'istanza Ollama dell'host.