Ga naar hoofdinhoud

Docker met externe Ollama

Gebruik dit wanneer Ollama al op host, server of Tailscale/LAN-machine draait.

Work​

Alleen de locatie van Ollama verandert; Work blijft actief via hostsocket en geeft root-equivalente controle. Gebruik alleen met vertrouwde hostbeheerders. Stel op Linux DOCKER_GID in .env in op de socketgroep. Verwijder mount als Work ongewenst is. Zie Work.

Vereisten​

curl http://localhost:11434/api/version
ollama pull gemma4:12b

Starten​

docker compose -f docker-compose.external-ollama.yml up -d

Open http://localhost:8080. OLLAMA_BASE_URL wijst standaard naar http://host.docker.internal:11434.

Aangepaste URL​

Gebruik op ondersteunde runtimes de hostalias host.docker.internal.

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d
extra_hosts:
  - 'host.docker.internal:host-gateway'

Persistentie​

libre_webui_data en libre_webui_temp. Stel stabiele geheimen:

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Back-up volume en sleutel samen.

Netwerk​

CORS_ORIGIN staat letterlijk in Compose; shell/.env overschrijft niet. Bewerk libre-webui.environment of voeg compose.origin.yml toe:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080
docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

Gebruik voor publiek exacte HTTPS-origin.

Handige commando's​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Problemen​

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Gebruik bij mislukking expliciet LAN/Tailscale-IP in OLLAMA_BASE_URL.

ollama list

De Model Manager leest de ingestelde instantie. CORS_ORIGIN moet exact schema en poort bevatten.

Gerelateerde documenten​