बाहरी Ollama के साथ Docker

जब Ollama आपके होस्ट, अन्य सर्वर या Tailscale/LAN मशीन पर पहले से चलता हो तब यह सेटअप उपयोग करें।

Work उपलब्धता

Compose केवल Ollama का स्थान बदलता है; Work होस्ट Docker socket से चालू रहता है। इससे Libre WebUI को होस्ट पर root-समान नियंत्रण मिलता है, इसलिए केवल विश्वसनीय व्यवस्थापकों के साथ उपयोग करें। Linux में .env का DOCKER_GID socket समूह पर रखें। Work नहीं चाहिए तो mount हटाएँ। Work देखें।

पूर्वापेक्षाएँ

curl http://localhost:11434/api/version

ollama pull gemma4:12b

Libre WebUI शुरू करें

docker compose -f docker-compose.external-ollama.yml up -d

http://localhost:8080 खोलें। Compose OLLAMA_BASE_URL को डिफ़ॉल्ट http://host.docker.internal:11434 देता है।

कस्टम Ollama URL

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d

Linux में host.docker.internal न मिले तो:

extra_hosts:
  - 'host.docker.internal:host-gateway'

डेटा स्थायित्व

• libre_webui_data
• libre_webui_temp

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

डेटा वॉल्यूम और एन्क्रिप्शन कुंजी साथ बैकअप करें।

नेटवर्क पहुँच

रिपॉज़िटरी Compose CORS_ORIGIN सीधे सेट करता है; shell या .env उसे नहीं बदलता। libre-webui.environment संपादित करें या compose.origin.yml override जोड़ें:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080

docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

सार्वजनिक डोमेन में दोनों के लिए सटीक HTTPS origin और HTTPS समाप्ति उपयोग करें।

उपयोगी कमांड

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

समस्या निवारण

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

असफल हो तो OLLAMA_BASE_URL में स्पष्ट LAN/Tailscale IP दें। मॉडल न दिखें तो:

ollama list

CORS_ORIGIN का योजना और पोर्ट सहित ब्राउज़र ओरिजिन से पूरा मेल होना चाहिए।

संबंधित दस्तावेज़

• Work
• Docker
• मॉडल के साथ काम
• समस्या निवारण