Chuyển tới nội dung chính

Docker với Ollama bên ngoài

Dùng thiết lập này khi Ollama đã chạy trên máy chủ của bạn, một máy chủ khác hoặc máy trong Tailscale/LAN.

Khả dụng của Work​

Thiết lập Compose này thay đổi nơi Ollama chạy; Work vẫn được bật qua socket Docker của máy chủ đã gắn. Điều này cấp cho Libre WebUI quyền kiểm soát tương đương root đối với máy chủ Docker, vì vậy chỉ dùng khi quản trị viên Libre WebUI cũng là quản trị viên máy chủ đáng tin cậy. Trên Linux, đặt DOCKER_GID trong .env thành nhóm sở hữu socket. Gỡ mount nếu không cần Work. Xem Work: Không gian làm việc cô lập.

Điều kiện tiên quyết​

Xác nhận có thể truy cập Ollama:

curl http://localhost:11434/api/version

Tải mô hình nếu phiên bản còn mới:

ollama pull gemma4:12b

Khởi động Libre WebUI​

Từ thư mục gốc repository:

docker compose -f docker-compose.external-ollama.yml up -d

Mở http://localhost:8080.

Theo mặc định, tệp Compose trỏ OLLAMA_BASE_URL đến http://host.docker.internal:11434.

URL Ollama tùy chỉnh​

Đối với máy chủ khác:

OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.external-ollama.yml up -d

Với máy chủ Linux không phân giải được host.docker.internal, hãy thêm phần sau vào dịch vụ:

extra_hosts:
  - 'host.docker.internal:host-gateway'

Lưu dữ liệu bền vững​

Tệp Compose lưu dữ liệu Libre WebUI trong các volume Docker:

  • libre_webui_data
  • libre_webui_temp

Đặt bí mật ổn định cho môi trường production:

JWT_SECRET=replace-with-a-long-random-secret
ENCRYPTION_KEY=replace-with-64-hex-characters

Sao lưu volume dữ liệu cùng khóa mã hóa.

Truy cập mạng​

Tệp Compose trong repository hiện đặt trực tiếp CORS_ORIGIN. Giá trị trong shell hoặc tệp .env của bạn không thay thế giá trị cố định đó. Hãy sửa mục libre-webui.environment hoặc thêm override Compose rõ ràng, chẳng hạn compose.origin.yml:

services:
  libre-webui:
    environment:
      CORS_ORIGIN: http://localhost:8080,http://192.168.1.50:8080
      BASE_URL: http://192.168.1.50:8080

Áp dụng cả hai tệp:

docker compose \
  -f docker-compose.external-ollama.yml \
  -f compose.origin.yml \
  up -d

Đối với miền công khai, dùng origin HTTPS chính xác cho cả hai giá trị và kết thúc lưu lượng bằng HTTPS.

Lệnh hữu ích​

docker compose -f docker-compose.external-ollama.yml ps
docker compose -f docker-compose.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.external-ollama.yml restart
docker compose -f docker-compose.external-ollama.yml pull
docker compose -f docker-compose.external-ollama.yml up -d

Khắc phục sự cố​

Libre WebUI không thể truy cập Ollama

docker compose -f docker-compose.external-ollama.yml exec libre-webui \
  wget -O- http://host.docker.internal:11434/api/version

Nếu thất bại, hãy dùng IP LAN/Tailscale rõ ràng trong OLLAMA_BASE_URL.

Mô hình không xuất hiện

Kiểm tra máy chủ Ollama:

ollama list

Trình quản lý mô hình đọc từ phiên bản Ollama đã cấu hình.

Lỗi CORS

Đảm bảo CORS_ORIGIN khớp chính xác với origin của trình duyệt, gồm cả scheme và cổng.

Tài liệu liên quan​