Zum Hauptinhalt springen

Docker mit externem Ollama

Verwende diese Konfiguration, wenn Ollama bereits auf deinem Host, einem anderen Server oder einem Gerät im Tailscale-/LAN-Netz läuft.

Verfügbarkeit von Work​

Diese Compose-Konfiguration ändert den Ausführungsort von Ollama; Work bleibt über den eingebundenen Docker-Socket des Hosts aktiviert. Dadurch erhält Libre WebUI eine Root gleichwertige Kontrolle über den Docker-Host. Verwende dies nur, wenn Libre WebUI-Administratoren zugleich vertrauenswürdige Hostadministratoren sind. Setze unter Linux DOCKER_GID in .env auf die Gruppe des Sockets. Entferne die Einbindung, wenn Work nicht gewünscht ist. Siehe Work: isolierte Arbeitsbereiche.

Voraussetzungen​

Prüfe die Erreichbarkeit von Ollama:

curl http://localhost:11434/api/version

Lade bei einer neuen Instanz ein Modell:

ollama pull gemma4:12b

Libre WebUI starten​

Im Stammverzeichnis des Repositorys:

docker compose -f docker-compose.external-ollama.yml up -d

Öffne http://localhost:8080.

Die Compose-Datei setzt OLLAMA_BASE_URL standardmäßig auf http://host.docker.internal:11434.

Benutzerdefinierte Ollama-URL​

Für einen anderen Host:

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d

Füge auf Linux-Hosts ohne Auflösung von host.docker.internal Folgendes zum Dienst hinzu:

extra_hosts:
  - 'host.docker.internal:host-gateway'

Datenpersistenz​

Die Compose-Datei speichert Libre WebUI-Daten in Docker-Volumes:

  • libre_webui_data
  • libre_webui_temp

Setze stabile Produktionsgeheimnisse:

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Sichere Datenvolume und Verschlüsselungsschlüssel gemeinsam.

Netzwerkzugriff​

Die Compose-Datei setzt CORS_ORIGIN derzeit direkt. Ein Wert in der Shell oder .env ersetzt dieses Literal nicht. Ändere den Eintrag libre-webui.environment oder füge eine explizite Überschreibung hinzu, etwa compose.origin.yml:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080

Wende beide Dateien an:

docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

Verwende für eine öffentliche Domain bei beiden Werten den exakten HTTPS-Ursprung und terminiere den Verkehr mit HTTPS.

Nützliche Befehle​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Fehlerbehebung​

Libre WebUI erreicht Ollama nicht

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Verwende bei einem Fehler eine explizite LAN-/Tailscale-IP in OLLAMA_BASE_URL.

Modelle werden nicht angezeigt

Prüfe den Ollama-Host:

ollama list

Der Modellmanager liest aus der konfigurierten Ollama-Instanz.

CORS-Fehler

CORS_ORIGIN muss einschließlich Protokoll und Port exakt dem Browser-Ursprung entsprechen.

Verwandte Dokumentation​