Ugrás a fő tartalomra

Külső és self-hosted szolgáltatók csatlakoztatása

A Libre WebUI 0.16.0 Provider connections munkaterületet ad a Settings > Plugins alatt. Aktiváljon bundled providert, irányítson kompatibilis plugint más API-ra, nézze meg az effective catalogot vagy csatlakozzon trusted self-hosted gatewayhez.

Libre WebUI Provider connections kereséssel, kiválasztással, vezérlőkkel, modellfrissítéssel és provider-qualified katalógussal.

Támogatott wire formats: OpenAI Chat Completions, OpenAI Responses, Anthropic Messages, Google Gemini contents/function calling.

A bundled Anthropic/Gemini dedicated adaptert használ identity alapján. Új import OpenAI Chat/Responses semanticsot kap; kompatibilis URL nem választ adaptert. Más request, stream, tool-call vagy response shape backend adaptert igényel. A JSON routing/config, nem protokollfordító.

Provider connections megnyitása

  1. Jelentkezzen be, nyissa Settings > Plugins, keressen és válasszon providert.
  2. Ellenőrizze active state/catalogot és aktiválja a fióknak.
  3. Configure csak credentialhez vagy override-hoz.

Config alapból zárt. Admin előbb connection settingset, samplingot az Advanced parameters alatt lát. Inherited default hint, nem előtöltött override.

Definition instance-shared, ezért import/install/update/delete csak admin. User saját aktiválást, credentialt és generationt kezel.

Gyors kapcsolat

Settings > Connections egy OpenAI-kompatibilis endpoint és key egyszerű útja. Admin látja local Ollama health/versiont, listát és formot.

Display name, teljes Chat Completions URL és optional key kell. Libre ID-t képez, definitiont telepít, keyt server-side ment, aktivál és modelleket kér. Discovered model leváltja placeholder catalogot és Chatben megjelenik.

Sor: endpoint, model count, key state, toggle, refresh, delete. Responses modes, Base URL override, capability catalogs és generation policy a teljes Pluginsben marad.

Codex (ChatGPT login)

Codex (ChatGPT) nem kér API keyt. Codex CLI login (codex login server OS userként) esetén adminok látják és ChatGPT sessionön át modelleket kapnak. Token az auth.json-ból, azonos OAuth clienttel refresh és visszaírás, érték soha nincs logban.

Request backendből, nem task containerből, ezért Workkel használható. Admin-only, mert server owner subscriptionjét használja. Elrejtés CODEX_OAUTH_MODELS_ENABLED=false, más login CODEX_HOME.

Bundled vagy importált

OpenAI, Anthropic, Gemini, Groq, Mistral, OpenRouter, Kimi Code, Hugging Face, GitHub Models, local MLX LM és mások. Bundledet használjon, ha protocol/auth illik.

Minimális import:

{
"id": "private-ai-gateway",
"name": "Private AI Gateway",
"type": "completion",
"endpoint": "http://ai-gateway:8080/v1/chat/completions",
"api_mode": "chat_completions",
"auth": {
"header": "Authorization",
"prefix": "Bearer ",
"key_env": "PRIVATE_AI_GATEWAY_API_KEY"
},
"model_map": ["gateway-chat"]
}

Import Settings > Plugins, aktiválás és account key. Változók Base URL/path/discovery/ capability endpointhoz. Teljes példa: plugins/openai.json.

Authless trusted gateway: auth.header és auth.key_env üres, auth.prefix elhagyva.

Chat Completions vagy Responses

API modeDefault pathMező
chat_completions/chat/completionsmessages
responses/responsesinput

OpenAI API Mode választ ad; Libre completed/streamed Responses-t Chat/Workre mapel bounded replay state-tel. Mode pathot, nem upstream protocolt változtat.

Base URL vagy full endpoint

  1. Non-default full endpoint.
  2. base_url + optional api_path.
  3. Definition endpoint.
https://gateway.example/v1
https://gateway.example/v1/chat/completions
https://gateway.example/v1/responses

API Path más relatív operationhöz, Legacy Full Endpoint teljes URL-hez, amely elsőbbséget élvez. /chat/completions, /completions, /responses suffix semanticsot ad.

Route/key változás után mentse. Custom auth route ugyanazon account credentialjét kéri. Authless mezők üresek. Operator env key nem megy user destinationre, csak trusted bundledre.

Model ID discovery

Aktív provider és Refresh models. Automatikusan fut, ha hiányzik vagy régebbi PLUGIN_MODEL_DISCOVERY_TTL_MS értéknél.

EredményJelentés
Catalog updatedLista változott
Catalog already up to dateUgyanaz
API key neededNincs kérés, régi catalog marad
Catalog could not be loadedNem elérhető/használhatatlan

Csak env key nem használható installed definitionnél. Speech/image/embedding labels láthatók, Chat pickerben nem.

/models URL:

  • /models változatlan;
  • /chat/completions, /completions, /responses, /embeddings, /messages lecserélve;
  • különben hozzáfűzve.
https://gateway.example/v1/chat/completions
https://gateway.example/v1/responses

-> https://gateway.example/v1/models

Explicit models_endpoint a variables alatt:

{
"name": "models_endpoint",
"type": "string",
"label": "Models Endpoint",
"default": "https://gateway.example/v1/models"
}

Inherited/admin érték elsőbbséget élvez. Top-level property nincs olvasva. Válasz data:

{
"data": [{ "id": "gateway-chat" }, { "id": "gateway-code" }]
}

IDs userenként, shared JSON változatlan. Discovery nélkül model_map. Catalog read-only, labels nem health. IDs nem globálisak, Chat exact identityt ment és unavailable-t mutat.

Képgenerálás külön

OpenAI https://api.openai.com/v1/images/generations, default gpt-image-2, régi IDs fallback. Custom Chat Base URL nem kap image requestet. image_endpoint üres vagy teljes. Provider-qualified választás, ugyanaz az ID csak választott providerhez megy.

Biztonságos HTTP gateway

Absolute HTTP/HTTPS. HTTP csak trusted LAN/Tailscale/container network, mert key/prompt titkosítatlan. HTTPS/TLS előny.

BackendPélda
Nativehttp://127.0.0.1:8081/v1
Composehttp://ai-gateway:8080/v1
Container→hosthttp://host.docker.internal:8081/v1
LAN/Tailscalehttp://192.168.1.20:8081/v1

Containerben localhost a Libre container. Csak HTTP/HTTPS, final destination credential előtt validált, redirect nincs.

Gateway ellenőrzése

curl http://ai-gateway:8080/v1/models \
-H 'Authorization: Bearer YOUR_GATEWAY_KEY'

Chat Completions:

curl http://ai-gateway:8080/v1/chat/completions \
-H 'Authorization: Bearer YOUR_GATEWAY_KEY' \
-H 'Content-Type: application/json' \
-d '{
"model": "gateway-chat",
"messages": [{"role": "user", "content": "Reply with: ready"}],
"stream": false
}'

Responses:

curl http://ai-gateway:8080/v1/responses \
-H 'Authorization: Bearer YOUR_GATEWAY_KEY' \
-H 'Content-Type: application/json' \
-d '{
"model": "gateway-chat",
"input": "Reply with: ready",
"store": false
}'

Siker után azonos route/mode/credential/model, aktiválás, Refresh models, Chat választás. Work csak megbízható tool callinggal.

Hibaelhárítás

TünetEllenőrzés
Bundled endpoint maradRégi override törlés, Base URL/API Path mentés
Rossz payloadAPI Mode és suffix
Nincs ID/models, data[].id, models_endpoint, model_map
Régi modellKapcsolat mentése
Hiányzó keyUser credential custom routehoz
Docker localhostCompose service/host alias/private address
Chat igen, image nemKülön image_endpoint
Chat igen, Work nemCompatible tool calls
RedirectFinal validated URL

Lásd Plugins és Hibaelhárítás.

Köszönet

A 0.16.0 élményt ZhengJin (@fangzhengjin) és a #163 visszajelzése formálta.

Kapcsolódó dokumentáció