AI モデルを使う
Libre WebUI では、ローカルの Ollama モデルと、プラグイン経由のクラウドモデルを同じワークスペースで利用できます。モデルマネージャーには、インストール済み Ollama モデル、実行中のモデル、リアルタイムの Ollama Library 検索結果、Hugging Face の GGUF 項目、利用可能な場合は Ollama Cloud の項目が表示されます。
最初のモデルを選ぶ
次のモデルを出発点とし、ハードウェアや用途に応じて切り替えてください。
| モデル | 適した用途 | 一般的な目安 |
|---|---|---|
gemma4:12b | 高速な汎用チャット | 16 GB RAM または 8 GB VRAM |
qwen3.8:27b | 汎用チャット、コーディング、多言語 | 32 GB RAM または 16-24 GB VRAM |
gemma4:26b | MoE の効率を生かした高性能チャット | 24 GB RAM または 16 GB VRAM |
gemma4:31b | 最高品質の高密度ローカルチャット | 32 GB RAM または 24 GB VRAM |
nomic-embed-text | ドキュメントの埋め込み | 小型のローカル埋め込みモデル |
30B、70B、MoE などの大規模モデルは優れた性能を発揮できますが、はるかに多くのメモリを必要とします。迷ったら小さなモデルから始め、スムーズに動作することを確認してから大きくしてください。
モデルマネージャー
設定 → モデルを開くと、次の操作ができます。
- 名前を指定して Ollama からモデルを取得。
- 固定一覧に頼らず、リアルタイムの Ollama Library を検索。
- インストール済みモデルと実行中モデルを表示。
- インストール済みの Ollama モデルをまとめて一括更新。
- 実行中モデルを停止またはアンロード。
- 不要になったモデルを削除。
- 互換性がある Hugging Face GGUF モデルを Ollama 経由で取得。
- クラウドフィルターから Ollama Cloud モデルを取得。
Ollama Cloud の検索結果では、取得前に UI がクラウドモデル名を正規化します。クラウドモデルに :cloud または -cloud サフィックスが必要な場合、Libre WebUI がクラウドモデルの操作フロー内で自動的に付加します。
モデルカタログと表示設定
設定 → デフォルトにあるモデルカタログには、選択可能なすべてのチャットモデルが一覧表示されます。ローカルモデルもプロバイダー経由のモデルも含まれ、プロバイダーバッジと検索ボックスが付いています。カタログの上にあるデフォルトモデルを選ぶと、新しいチャットで最初に使用するモデルを設定できます。
管理者はモデルにスターを付けて、カタログとデフォルトモデルのメニューの先頭に固定できます。複数のモデルにスターを付けた場合は、最後にスターを付けたものが先頭に並びます。スターを外すと、そのモデルは元の手動順またはプロバイダー順の位置に戻ります。
管理者には、各行に追加の操作として目のアイコンが表示され、他のすべてのユーザーのモデル選択画面からモデルを隠せます。非表示にすることで、長いカタログをサーバーで実際に使わせたいモデルへ絞れます。ただし、これは一覧を整理する機能であり認可ゲートではありません。セキュリティ境界ではなく、選定機能として扱ってください。管理者には常に完全な一覧が表示され、非表示モデルには印が付きます。
ローカルモデルとクラウドモデル
| モード | 長所 | 注意点 |
|---|---|---|
| ローカル Ollama | プライベート、ダウンロード後はオフライン、予測可能なコスト | CPU／GPU／RAM に依存 |
| Ollama Cloud | ローカルハードウェアの上限なしで、慣れた Ollama ワークフローを利用 | クラウドへのアクセスとネットワークが必要 |
| プロバイダープラグイン | 複数プロバイダーのマネージドモデルを利用可能 | API キー、プロバイダー料金、プロバイダーのプライバシーポリシーが適用 |
機密性が必要な作業にはローカルモデルを使い、大規模なホスト型モデルが必要なタスクではプロバイダープラグインを有効にできます。
デフォルトのビジョンモデル
高速なテキストモデルでチャットしながら、画像も送信できます。設定 → デフォルト → 特殊モデル → ビジョンモデルでビジョンモデルを選びます。送信するチャットコンテキストに画像が含まれるたびに、新しい添付ファイル、セッション内の以前の画像、シークレットチャットの履歴のいずれであっても、そのターンはセッションモデルではなく設定済みのビジョンモデルへルーティングされます。テキストだけのターンでは、引き続きセッションモデルを使います。
この設定はユーザーごとで、ルーティングは自動かつ画面には表示されません。現在のチャットモデルを使用のままにすると無効になります。判定対象は画像の有無であり、セッションモデルの能力ではありません。ビジョンモデルを設定している場合、セッションモデル自身が画像に対応していても、画像を含むすべてのターンでビジョンモデルを使用します。
選択内容には、モデル名とともに正確なプロバイダー ID（Ollama または特定のプラグイン）が保存されるため、同名モデルを別のプロバイダーが横取りすることはできません。モデルやプロバイダーが利用できなくなるなどして、保存済みの選択からプロバイダー ID が失われると、画像を含むターンは失敗します。設定 → デフォルト → 特殊モデル → ビジョンモデルでモデルを選び直すと修復されます。明示的に失敗させるのは意図的な設計で、Libre WebUI が別のプロバイダーへ黙って置き換えることはありません。
Work 用モデル
Work には、ツールを呼び出せるチャットモデルが必要です。次のモデルを利用できます。
tools機能を公開している、インストール済み Ollama モデル。- 設定済み Ollama エンドポイントから利用できる Ollama Cloud モデル。
- 有効なチャットまたは補完プラグインに掲載され、現在の管理者用の資格情報が設定されたモデル。
プラグイン経由の Work 実行では、設定済みプラグインに合ったプロバイダーアダプター（OpenAI 互換、Anthropic、Gemini）を使用します。Libre WebUI はタスクおよび各実行に、正確なプロバイダー種別とプラグイン ID を永続化します。そのため、同名の Ollama モデルをプラグインが横取りすることはできません。選択したモデルまたはプロバイダーがツール呼び出しを拒否した場合、別のプロバイダーへ黙って切り替えず、実行は失敗します。
ローカル Ollama では、モデルリクエストが設定済み Ollama インフラ内に留まります。リモートモデルの場合、設定済みプロバイダーが Work のシステムプロンプト、会話、ツール定義、ツール結果を受け取ります。ツール結果には、モデルが要求したソーステキスト、コマンド出力、ディレクトリ一覧が含まれる場合があります。ワークスペースボリュームとプロバイダー資格情報はバックエンドホストに残りますが、ファイル内容がツール結果に含まれると、そのホスト外へ送信される可能性があります。
1 回の自律的な Work 実行で、モデルを複数回呼び出すことがあります。機密プロジェクトで使う前に、リモートプロバイダーの料金、保持、学習ポリシーを確認してください。Libre WebUI は Work 内にリモートプロバイダーに関する注意を表示し、ユーザーごとに閉じられるようにしています。
ハードウェアガイド
| システム | 実用的なモデル範囲 | 備考 |
|---|---|---|
| CPU のみ、8-16 GB RAM | 1B-4B | 軽いチャットとテスト向け |
| 8 GB VRAM | 量子化 4B-8B | 快適な出発点 |
| 12-16 GB VRAM | 量子化 8B-14B | 日常用途に適した範囲 |
| 24 GB VRAM | 量子化 14B-32B | 強力なローカルワークステーション |
| 48 GB+ VRAM または大容量ユニファイドメモリ | 量子化 32B-70B | 大規模モデルの実験 |
量子化モデルはメモリ使用量を抑えられます。通常は Q4 量子化が実用的なデフォルトです。Q8 は品質が高い一方、より多くのメモリを使います。
タスク別の推奨
| タスク | モデルの方向性 |
|---|---|
| 高速チャット | gemma4:12b など、現在の小型モデル |
| コーディング | Qwen Coder、Codestral、プロバイダーのコーディングモデル |
| 推論 | 大規模な Qwen／Gemma モデル、プロバイダーの推論モデル |
| ビジョン | LLaVA、Qwen VL、プロバイダーのビジョンモデルなどのマルチモーダルモデル |
| ドキュメント検索 | nomic-embed-text または別の埋め込みモデル |
| 音声合成 | Qwen3-TTS、Kyutai TTS などの TTS プラグイン |
プロバイダーのモデル名は頻繁に変わります。Libre WebUI では、利用可能な場合はプロバイダーのモデル検索を使うか、プロバイダーのダッシュボードにある正確なモデル ID を貼り付けてください。
プロンプトと設定
- Temperature、トークン上限、コンテキスト長、ペナルティなどの生成コントロールは、詳細な生成設定にまとめられ、デフォルトでは閉じています。
- 事実に基づく再現性の高い回答には低い Temperature（
0.1-0.3）。 - 通常のアシスタント作業には中程度の Temperature（
0.5-0.7）。 - ブレインストーミングやクリエイティブな文章には高い Temperature（
0.8+）。 - メモリ上限に近い場合は、コンテキスト長を適度に抑えてください。
- 永続的なモデルパラメーターと再利用可能なシステムプロンプトが必要な場合は、ペルソナを使用してください。
トラブルシューティング
取得に失敗する
- Ollama が実行中か確認します:
ollama list。 - ターミナルで同じ取得を試し、Ollama の元のエラーを確認します。
- 大きなモデルを取得する前にディスク容量を確認します。
- モデルマネージャーのクラウドフィルターを使っている場合、クラウド用サフィックスは Libre WebUI に任せてください。
応答が遅い
- より小さなモデルまたは低い量子化を試します。
ollama psで読み込み済みモデルを確認します。- GPU を多用する他のアプリを閉じます。
- コンテキスト長を減らします。
メモリ不足
- Q8 から Q4 へ変更します。
- 14B ではなく 8B モデルを使います。
- 必要なモデルだけを読み込み済みにします。
- Docker では、コンテナから GPU またはホスト側 Ollama インスタンスへ到達できることを確認します。