Lewati ke konten utama

Docker dengan Ollama Eksternal

Gunakan pengaturan ini jika Ollama sudah berjalan di host Anda, server lain, atau mesin Tailscale/LAN.

Ketersediaan Work​

Pengaturan Compose ini mengubah tempat Ollama berjalan; Work tetap diaktifkan melalui soket Docker host yang dipasang. Pengaturan ini memberi Libre WebUI kendali setara root atas host Docker, jadi gunakan hanya jika administrator Libre WebUI juga dipercaya sebagai administrator host. Di Linux, tetapkan DOCKER_GID dalam .env ke grup yang memiliki soket. Hapus mount jika Work tidak diinginkan. Lihat Work: Ruang Kerja Terisolasi.

Prasyarat​

Pastikan Ollama dapat dijangkau:

curl http://localhost:11434/api/version

Unduh sebuah model jika instans masih baru:

ollama pull gemma4:12b

Memulai Libre WebUI​

Dari root repositori:

docker compose -f docker-compose.external-ollama.yml up -d

Buka http://localhost:8080.

Secara bawaan, berkas Compose mengarahkan OLLAMA_BASE_URL ke http://host.docker.internal:11434.

URL Ollama Khusus​

Untuk host lain:

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d

Untuk host Linux yang tidak dapat mengenali host.docker.internal, tambahkan ini ke layanan:

extra_hosts:
  - 'host.docker.internal:host-gateway'

Persistensi Data​

Berkas Compose menyimpan data Libre WebUI dalam volume Docker:

  • libre_webui_data
  • libre_webui_temp

Tetapkan rahasia yang stabil untuk produksi:

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Cadangkan volume data dan kunci enkripsi secara bersamaan.

Akses Jaringan​

Berkas Compose dalam repositori saat ini menetapkan CORS_ORIGIN secara langsung. Nilai dalam shell atau berkas .env Anda tidak menggantikan nilai literal tersebut. Edit entri libre-webui.environment atau tambahkan override Compose eksplisit, misalnya compose.origin.yml:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080

Terapkan kedua berkas:

docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

Untuk domain publik, gunakan origin HTTPS yang persis sama bagi kedua nilai dan akhiri lalu lintas dengan HTTPS.

Perintah Berguna​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Pemecahan Masalah​

Libre WebUI tidak dapat menjangkau Ollama

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Jika gagal, gunakan IP LAN/Tailscale eksplisit di OLLAMA_BASE_URL.

Model tidak muncul

Periksa host Ollama:

ollama list

Pengelola Model membaca dari instans Ollama yang dikonfigurasi.

Kesalahan CORS

Pastikan CORS_ORIGIN sama persis dengan origin peramban, termasuk skema dan port.

Dokumentasi Terkait​