Hoppa till huvudinnehåll

Docker med extern Ollama

Använd den här konfigurationen när Ollama redan körs på värddatorn, en annan server eller en Tailscale-/LAN-dator.

Work-tillgänglighet​

Compose-konfigurationen ändrar var Ollama körs. Work förblir aktiverat genom den monterade Docker-socketen på värden. Det ger Libre WebUI kontroll motsvarande root över Docker-värden och ska endast användas när Libre WebUI-administratörerna även är betrodda värdadministratörer. På Linux anger du DOCKER_GID i .env som gruppen som äger socketen. Ta bort monteringen om Work inte behövs. Se Work: Isolerade arbetsytor.

Förutsättningar​

Kontrollera att Ollama kan nås:

curl http://localhost:11434/api/version

Hämta en modell om instansen är ny:

ollama pull gemma4:12b

Starta Libre WebUI​

Från repositoryts rot:

docker compose -f docker-compose.external-ollama.yml up -d

Öppna http://localhost:8080.

Compose-filen pekar som standard OLLAMA_BASE_URL på http://host.docker.internal:11434.

Anpassad Ollama-URL​

För en annan värd:

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d

Lägg till följande i tjänsten på Linux-värdar som inte kan slå upp host.docker.internal:

extra_hosts:
  - 'host.docker.internal:host-gateway'

Beständig datalagring​

Compose-filen lagrar Libre WebUI-data i Docker-volymer:

  • libre_webui_data
  • libre_webui_temp

Ange stabila hemligheter för produktion:

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Säkerhetskopiera datavolymen och krypteringsnyckeln tillsammans.

Nätverksåtkomst​

Repositoryts Compose-fil anger för närvarande CORS_ORIGIN direkt. Ett värde i skalet eller .env ersätter inte det bokstavliga värdet. Redigera posten libre-webui.environment eller lägg till en uttrycklig Compose-åsidosättning, exempelvis compose.origin.yml:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080

Tillämpa båda filerna:

docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

Använd exakt HTTPS-origin för båda värdena på en offentlig domän och terminera trafiken med HTTPS.

Användbara kommandon​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Felsökning​

Libre WebUI kan inte nå Ollama

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Om det misslyckas använder du en uttrycklig LAN-/Tailscale-IP i OLLAMA_BASE_URL.

Modeller visas inte

Kontrollera Ollama-värden:

ollama list

Modellhanteraren läser från den konfigurerade Ollama-instansen.

CORS-fel

Kontrollera att CORS_ORIGIN exakt matchar webbläsarens origin, inklusive schema och port.

Relaterad dokumentation​