حزمة GPU محلية
يصف هذا الدليل إعداد GPU المحلي الذي يدعمه المستودع: يعمل Ollama أصليًا على المضيف للوصول المباشر إلى GPU، ويعمل Libre WebUI داخل Docker باستخدام docker-compose.dev.external-ollama.yml.
توفر Work
يعمل Ollama أصليًا على GPU المضيف. تُفعّل Work من خلال مقبس Docker للمضيف المربوط، مما يسمح لـ Libre WebUI بإنشاء حاويات خاصة بالمهام على daemon نفسه. ولا يلزم تثبيت Libre WebUI أصليًا.
يمنح المقبس تحكمًا بمضيف Docker مكافئًا لصلاحيات root. أزل ربطه ما لم تكن
Work مطلوبة، واضبط DOCKER_GID في .env على Linux.
على الأجهزة محدودة الذاكرة، يمكن لـ Work استخدام نموذج Ollama Cloud أو مكوّن إكمال أو محادثة بعيد مضبوط. يخفّف ذلك ضغط ذاكرة النموذج المحلي، لكن Docker يبقى مطلوبًا لمساحة عمل المهمة وأوامرها.
ما ستحصل عليه
- Libre WebUI باستخدام صورة
librewebui/libre-webui:dev. - Ollama أصلي على المضيف لاستدلال النماذج المحلية.
- وحدات بيانات دائمة لـ Libre WebUI.
- مسار نظيف لاختبار صورة dev من دون وضع Ollama في حاوية.
المتطلبات الأساسية
| المكوّن | المتطلب |
|---|---|
| Docker | Docker Desktop أو Docker Engine مع Compose v2 |
| Ollama | مثبّت ويعمل على المضيف |
| GPU | اختياري، لكن يوصى به للنماذج المحلية |
| NVIDIA | برنامج تشغيل حديث وNVIDIA Container Toolkit إذا وضعت أحمال GPU في حاويات |
| القرص | مساحة كافية لملفات نماذج Ollama |
تثبيت Ollama والتحقق منه
Linux:
curl -fsSL https://ollama.com/install.sh | sh
macOS:
brew install ollama
ollama serve
نزّل نموذج بداية:
ollama pull gemma4:12b
تحقق من API:
curl http://localhost:11434/api/version
تشغيل Libre WebUI
من جذر المستودع:
docker compose -f docker-compose.dev.external-ollama.yml up -d
افتح http://localhost:8080.
نقطة نهاية Ollama مخصصة
إذا كان Ollama على جهاز آخر:
OLLAMA_BASE_URL=http://192.168.1.100:11434 docker compose -f docker-compose.dev.external-ollama.yml up -d
مع Tailscale:
OLLAMA_BASE_URL=http://100.x.y.z:11434 docker compose -f docker-compose.dev.external-ollama.yml up -d
النماذج الموصى بها
لمحطة عمل GPU أولى:
ollama pull gemma4:12b
ollama pull qwen3.8:27b
ollama pull gemma4:26b
ollama pull nomic-embed-text
استخدم مدير النماذج لاكتشاف نماذج أكبر بعد عمل الحزمة الأساسية.
الوصول عبر الشبكة المحلية
أضف أصل شبكتك المحلية أو Tailscale إلى CORS_ORIGIN في بيئة Compose قبل كشف التطبيق لجهاز آخر:
CORS_ORIGIN=http://localhost:8080,http://192.168.1.50:8080
ثم أعد التشغيل:
docker compose -f docker-compose.dev.external-ollama.yml up -d
أوامر مفيدة
docker compose -f docker-compose.dev.external-ollama.yml ps
docker compose -f docker-compose.dev.external-ollama.yml logs -f libre-webui
docker compose -f docker-compose.dev.external-ollama.yml pull
docker compose -f docker-compose.dev.external-ollama.yml up -d
استكشاف الأخطاء وإصلاحها
لا تستطيع الحاوية الوصول إلى Ollama
docker compose -f docker-compose.dev.external-ollama.yml exec libre-webui \
wget -O- http://host.docker.internal:11434/api/version
على Linux، أضف:
extra_hosts:
- 'host.docker.internal:host-gateway'
النموذج يعمل على CPU
يستخدم Ollama الأصلي تثبيت المضيف. تحقق من تثبيت Ollama وبرنامج تشغيل GPU وollama ps.
تحتاج إلى TTS
استخدم دليل خادم Qwen3-TTS أو Kyutai TTS أو LongCat AudioDiT، ثم فعّل المكوّن الإضافي المطابق في الإعدادات.