ローカル GPU スタック
このガイドでは、リポジトリでサポートされるローカル GPU セットアップを説明します。Ollama は GPU に直接アクセスできるようホスト上でネイティブに実行し、Libre WebUI は docker-compose.dev.external-ollama.yml を使って Docker 内で実行します。
Work の利用可否
Ollama はホスト GPU 上でネイティブに実行されます。Work はマウントされたホストの Docker ソケットを通じて有効になり、Libre WebUI は同じデーモン上にタスク単位のコンテナを作成できます。Libre WebUI をネイティブにインストールする必要はありません。
このソケットは Docker ホストに対する root 相当の制御権を与えます。Work が不要ならマウントを削除し、Linux では .env に DOCKER_GID を設定してください。
メモリに余裕がないマシンでは、Work で Ollama Cloud モデルや、設定済みのリモート completion/chat プラグインを代わりに使えます。これによりローカルモデルのメモリ負荷は軽減されますが、タスク用ワークスペースとコマンドのために Docker は引き続き必要です。
この構成に含まれるもの
librewebui/libre-webui:devイメージを使用する Libre WebUI。- ローカルモデル推論を行う、ホスト上のネイティブ Ollama。
- 永続化された Libre WebUI データボリューム。
- Ollama をコンテナ化せずに開発イメージをテストできる簡潔な手順。
前提条件
| コンポーネント | 要件 |
|---|---|
| Docker | Docker Desktop、または Compose v2 を備えた Docker Engine |
| Ollama | ホストにインストール済みで実行中 |
| GPU | ローカルモデルでは任意ですが推奨 |
| NVIDIA | GPU ワークロードをコンテナ化する場合は、最新のドライバーと NVIDIA Container Toolkit |
| ディスク | Ollama のモデルファイルに十分な空き容量 |
Ollama のインストールと確認
Linux:
curl -fsSL https://ollama.com/install.sh | sh
macOS:
brew install ollama
ollama serve
最初のモデルを取得します。
ollama pull gemma4:12b
API を確認します。
curl http://localhost:11434/api/version
Libre WebUI の起動
リポジトリのルートから実行します。
docker compose -f docker-compose.dev.external-ollama.yml up -d
http://localhost:8080 を開きます。
Ollama エンドポイントの変更
Ollama が別のマシンにある場合:
OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.dev.external-ollama.yml up -d
Tailscale の場合:
OLLAMA_BASE_URL=http://100.x.y.z:11434 docker compose -f docker-compose.dev.external-ollama.yml up -d
推奨モデル
最初の GPU ワークステーションには、次のモデルを取得します。
ollama pull gemma4:12b
ollama pull qwen3.8:27b
ollama pull gemma4:26b
ollama pull nomic-embed-text
基本構成が動作したら、モデルマネージャーでより大きなモデルを探せます。
LAN アクセス
別のデバイスにアプリを公開する前に、LAN または Tailscale のオリジンを compose 環境の CORS_ORIGIN に追加します。
CORS_ORIGIN=http://localhost:8080,http://192.168.1.50:8080
その後、再起動します。
docker compose -f docker-compose.dev.external-ollama.yml up -d
便利なコマンド
docker compose -f docker-compose.dev.external-ollama.yml ps
docker compose -f docker-compose.dev.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.dev.external-ollama.yml pull
docker compose -f docker-compose.dev.external-ollama.yml up -d
トラブルシューティング
コンテナから Ollama に接続できない
docker compose -f docker-compose.dev.external-ollama.yml exec libre-webui \
wget -O- http://host.docker.internal:11434/api/version
Linux では次を追加します。
extra_hosts:
- 'host.docker.internal:host-gateway'
モデルが CPU で動作する
ネイティブ Ollama はホストへのインストールを使います。Ollama のインストール、GPU ドライバー、ollama ps を確認してください。
TTS が必要
Qwen3-TTS、Kyutai TTS、LongCat AudioDiT のいずれかのサーバーガイドに従い、設定で対応するプラグインを有効にしてください。