Přeskočit na hlavní obsah

Docker s externí Ollama

Tuto konfiguraci použijte, když Ollama již běží na hostiteli, jiném serveru nebo počítači v Tailscale/LAN.

Dostupnost Work​

Konfigurace Compose mění místo běhu Ollama. Work zůstává zapnutý prostřednictvím připojeného socketu Docker hostitele. Tím Libre WebUI získává nad hostitelem oprávnění odpovídající root, proto ji používejte pouze tam, kde jsou správci Libre WebUI také důvěryhodnými správci hostitele. V Linuxu nastavte DOCKER_GID v .env na skupinu vlastnící socket. Pokud Work nechcete, připojení odeberte. Viz Work: Izolované pracovní prostory.

Požadavky​

Ověřte dostupnost Ollama:

curl http://localhost:11434/api/version

U nové instance stáhněte model:

ollama pull gemma4:12b

Spuštění Libre WebUI​

Z kořene repository:

docker compose -f docker-compose.external-ollama.yml up -d

Otevřete http://localhost:8080.

Soubor Compose ve výchozím stavu nastavuje OLLAMA_BASE_URL na http://host.docker.internal:11434.

Vlastní URL Ollama​

Pro jiného hostitele:

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d

U hostitelů Linux, kteří nedokážou přeložit host.docker.internal, přidejte do služby:

extra_hosts:
  - 'host.docker.internal:host-gateway'

Trvalé uložení dat​

Soubor Compose ukládá data Libre WebUI do svazků Docker:

  • libre_webui_data
  • libre_webui_temp

Pro produkci nastavte stabilní tajné údaje:

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Datový svazek a šifrovací klíč zálohujte společně.

Přístup k síti​

Soubor Compose v repository aktuálně nastavuje CORS_ORIGIN přímo. Hodnota v shellu nebo .env tento literál nenahradí. Upravte položku libre-webui.environment nebo přidejte výslovné přepsání Compose, například compose.origin.yml:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080

Použijte oba soubory:

docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

U veřejné domény použijte pro obě hodnoty přesný origin HTTPS a provoz ukončete přes HTTPS.

Užitečné příkazy​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Řešení potíží​

Libre WebUI se nedostane k Ollama

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Pokud to selže, použijte v OLLAMA_BASE_URL výslovnou IP LAN/Tailscale.

Modely se nezobrazují

Zkontrolujte hostitele Ollama:

ollama list

Správce modelů načítá z nakonfigurované instance Ollama.

Chyby CORS

Ověřte, že CORS_ORIGIN přesně odpovídá originu prohlížeče včetně schématu a portu.

Související dokumentace​