ハードウェア要件
Libre WebUI の通常のチャット画面は軽量です。リソースの大半はローカルの Ollama モデルが消費します。 コンテナで動く Work タスクには、CPU、メモリ、プロセス、イメージ、プロジェクトストレージ用に 別途余裕が必要です。
クイックリファレンス
| ハードウェア | 実用的なローカルモデル | 備考 |
|---|---|---|
| 8 GB RAM、CPU のみ | 量子化 1B～4B | テストや軽いチャット向け |
| 16 GB RAM、CPU のみ | 量子化 4B～8B | 使用可能だが GPU より低速 |
| 8 GB VRAM | 量子化 4B～8B | 日常利用に適したローカル構成 |
| 12～16 GB VRAM | 量子化 8B～14B | 高性能ワークステーション向け |
| 24 GB VRAM | 量子化 14B～32B | ハイエンドのローカル利用 |
| 48 GB+ VRAM または大容量ユニファイドメモリ | 量子化 32B～70B | 大規模モデルの検証 |
実際の速度は、モデルのアーキテクチャ、量子化、コンテキスト長、GPU ドライバー、同時に動作するほかの処理によって異なります。
最初に試すモデル
ollama pull gemma4:12b
ollama pull qwen3.8:27b
ollama pull gemma4:26b
ollama pull nomic-embed-text
nomic-embed-text はチャットモデルではなく、ドキュメントの埋め込みに使用します。
VRAM と RAM
ローカルモデルの速度を最も大きく左右するのは VRAM です。モデルが VRAM に収まれば、応答は大幅に高速になります。システム RAM にはみ出しても動作する場合はありますが、速度は低下します。
システム RAM は、CPU 推論、GPU オフロード、長いコンテキストウィンドウ、およびアプリのほかの部分の実行に影響します。
Apple Silicon
Apple Silicon はユニファイドメモリを使用するため、モデルのメモリは OS やアプリケーションと同じプールから確保されます。大容量ユニファイドメモリを搭載するマシンでは、ディスクリート GPU 環境で同程度の GPU VRAM 容量から想定されるものより大きな量子化モデルを実行できます。
ブラウザー、バックエンド、オペレーティングシステム用に十分な空きメモリを残してください。
NVIDIA
一般に NVIDIA GPU は、CUDA を通じてローカル推論との互換性が最も高くなります。最新のドライバーを使用し、Ollama をコンテナで動かす場合は Docker から GPU にアクセスできることを確認してください。
AMD と Intel
AMD と Intel の対応状況は、各プラットフォームに対する Ollama とドライバーの対応に依存します。GPU アクセラレーションが利用できない場合でも、CPU 推論は使用できます。
メモリ使用量を減らす
- より小さなモデルを使用する。
- Q8 ではなく Q4 量子化を使用する。
- コンテキスト長を短くする。
- 使用していないモデルをアンロードする。
- ドキュメントの埋め込みモデルとチャットモデルを分けて選ぶ。
Work ランタイムの容量
Work では、WebUI とモデルプロセスに加えてコンテナ用のリソースも必要です。アクティブな タスクコンテナ 1 つあたりの既定値は次のとおりです。
- メモリ 2 GB
- CPU 2 個
- プロセス 256 個
バックエンドが同時に許可するコンテナ型タスクは、インスタンス全体で 2 個、管理者 1 人あたり 1 個が既定です。これらは予約量ではなく上限ですが、運用者は WebUI バックエンド、ブラウザー、 Docker、Ollama、タスクコンテナが同時に動作する前提で容量を見積もる必要があります。 Apple Silicon では、最終的にすべてが同じユニファイドメモリプールを共有します。
Ollama Cloud または設定済みのリモートモデルプラグインを使えば、大きなモデルをローカルの RAM や VRAM に読み込まずに済みます。ただし、Docker の要件や Work コンテナに必要なリソースはなくなりません。
各 Work タスクは、生成ファイルとローカル依存関係を保存する Docker 名前付きボリュームも所有します。現時点ではタスクごとのディスククォータがないため、パッケージのインストールや生成プロジェクトによって Docker ストレージを使い切る可能性があります。Docker のデータルートを監視し、利用できる場合はホスト側の上限を設定し、タスクボリュームを Libre WebUI データベースとは別にバックアップしてください。
WORK_MEMORY_LIMIT、WORK_CPU_LIMIT、WORK_PIDS_LIMIT、
WORK_MAX_ACTIVE_RUNTIMES_* の設定は、バックエンドホストで実測してから調整してください。
既定値は環境変数リファレンスを参照してください。