Przejdź do głównej zawartości

Docker z zewnętrzną Ollama

Gdy Ollama działa na hoście, serwerze lub Tailscale/LAN.

Work​

Work nadal używa socketu hosta i ma uprawnienia root-equivalent. Tylko dla zaufanych administratorów. Linux: DOCKER_GID w .env. Usuń mount, jeśli niepotrzebny. Work.

Wymagania​

curl http://localhost:11434/api/version
ollama pull gemma4:12b

Start​

docker compose -f docker-compose.external-ollama.yml up -d

http://localhost:8080; OLLAMA_BASE_URL domyślnie http://host.docker.internal:11434.

Własny URL​

Alias hosta: host.docker.internal.

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d
extra_hosts:
  - 'host.docker.internal:host-gateway'

Dane​

Wolumeny libre_webui_data, libre_webui_temp.

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Backup razem.

Sieć​

CORS_ORIGIN jest ustawiony w libre-webui.environment; własne ustawienia zapisz w compose.origin.yml.

CORS_ORIGIN jest literalnie w Compose; shell/.env go nie zmienia. Override:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080
docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

Publicznie dokładne HTTPS.

Komendy​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Problemy​

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Listę modeli sprawdź osobnym poleceniem:

ollama list

Użyj LAN/Tailscale IP w OLLAMA_BASE_URL. Modele: ollama list. CORS_ORIGIN musi pasować ze schematem i portem.

Powiązane​