Hop til hovedindhold

Docker med ekstern Ollama

Brug denne konfiguration, når Ollama allerede kører på værten, en anden server eller en Tailscale-/LAN-maskine.

Work-tilgængelighed​

Compose-konfigurationen ændrer, hvor Ollama kører. Work forbliver aktiveret gennem den monterede Docker-socket på værten. Det giver Libre WebUI root-tilsvarende kontrol over Docker-værten og bør kun bruges, når Libre WebUI-administratorer også er betroede værtsadministratorer. På Linux angives DOCKER_GID i .env som gruppen, der ejer socketen. Fjern monteringen, hvis Work ikke ønskes. Se Work: Isolerede arbejdsområder.

Forudsætninger​

Kontrollér, at Ollama kan nås:

curl http://localhost:11434/api/version

Hent en model, hvis instansen er ny:

ollama pull gemma4:12b

Start Libre WebUI​

Fra repositoryts rod:

docker compose -f docker-compose.external-ollama.yml up -d

Åbn http://localhost:8080.

Compose-filen peger som standard OLLAMA_BASE_URL på http://host.docker.internal:11434.

Tilpasset Ollama-URL​

For en anden vært:

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d

På Linux-værter, der ikke kan opløse host.docker.internal, tilføjes følgende til tjenesten:

extra_hosts:
  - 'host.docker.internal:host-gateway'

Vedvarende data​

Compose-filen gemmer Libre WebUI-data i Docker-volumener:

  • libre_webui_data
  • libre_webui_temp

Angiv stabile hemmeligheder til produktion:

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Sikkerhedskopiér datavolumen og krypteringsnøglen sammen.

Netværksadgang​

Repositoryts Compose-fil angiver i øjeblikket CORS_ORIGIN direkte. En værdi i shell eller .env erstatter ikke den bogstavelige værdi. Redigér libre-webui.environment, eller tilføj en udtrykkelig Compose-tilsidesættelse, f.eks. compose.origin.yml:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080

Anvend begge filer:

docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

På et offentligt domæne bruges den nøjagtige HTTPS-origin for begge værdier, og trafikken termineres med HTTPS.

Nyttige kommandoer​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Fejlfinding​

Libre WebUI kan ikke nå Ollama

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Hvis det mislykkes, bruges en udtrykkelig LAN-/Tailscale-IP i OLLAMA_BASE_URL.

Modeller vises ikke

Kontrollér Ollama-værten:

ollama list

Modeladministrationen læser fra den konfigurerede Ollama-instans.

CORS-fejl

Kontrollér, at CORS_ORIGIN matcher browserens origin nøjagtigt, inklusive skema og port.

Relateret dokumentation​