メインコンテンツまでスキップ

Hugging Face Hub

Libre WebUI は、次の 2 つの方法で Hugging Face と連携します。

  • Hugging Face Inference Providers を介したプロバイダープラグインアクセス。
  • Ollama 経由で取得できる GGUF モデルなど、互換モデルをアプリ内 Hub から閲覧。

プロバイダープラグインを設定する

推論権限を持つ Hugging Face アクセストークンを作成し、設定画面または環境変数で追加します。

HUGGINGFACE_API_KEY=hf_...

設定 > プラグインで Hugging Face プラグインを有効にします。

機能

モデルとプロバイダーの提供状況に応じて、Hugging Face では次の機能を利用できます。

  • チャット/補完モデル
  • 音声合成
  • 画像生成
  • 埋め込み
  • 音声認識

Hugging Face の提供状況、料金、ルーティングは、モデルによって変わることがあります。最新の状態は、モデルページと Hugging Face のプロバイダー画面で確認してください。

モデルブラウザー

アプリ内ブラウザーでは、次の操作ができます。

  • モデル名または作成者で検索。
  • タスクで絞り込み。
  • トレンド、ダウンロード数、いいね数、作成日、更新日で並べ替え。
  • アクセス制限付きモデルの状態を確認。
  • 対応している場合、Ollama 経由で互換 GGUF ファイルを取得。

ブラウザーはバックエンドプロキシ経由で Hub のメタデータを取得し、パフォーマンス向上のために結果をキャッシュします。 Hub の検索には、バックエンドで有効な Libre セッションが必要です。共有モデルキャッシュを消去できるのは、現在の管理者だけです。

GGUF と Ollama

ローカル推論には、GGUF 形式のモデルを探してください。リポジトリが適切な GGUF ファイルを公開していれば、Libre WebUI から Ollama 互換の hf.co/... モデル参照を使用できます。

形式の例:

ollama run hf.co/owner/model-repo:tag

可能であれば UI を使用してください。コピー&ペーストの間違いを減らし、モデルのメタデータを確認しながら操作できます。

Inference Provider のルーティング

Hugging Face の OpenAI 互換ルーターは、Hub のモデル ID に対応しています。一部の経路では、サフィックスやプロバイダー設定を利用できます。これは時間とともに変わるため、正確なモデル ID は最新の Hugging Face ドキュメントとアプリ内モデルブラウザーで確認してください。

アクセス制限付きモデル

一部のモデルは、利用前に規約への同意が必要です。

  1. Hugging Face でモデルページを開きます。
  2. ライセンスまたは規約に同意します。
  3. トークンにアクセス権があることを確認します。
  4. Libre WebUI から再試行します。

トークンに実行権限が付く前でも、アクセス制限付きモデルが検索結果に表示される場合があります。

トラブルシューティング

未認証

  • トークンの値を確認します。
  • トークンに推論権限があることを確認します。
  • ユーザーごとの資格情報を使っている場合は、現在のユーザーにキーが保存されていることを確認します。

モデルを利用できない

  • Hugging Face のモデルページを確認します。
  • 利用可能なら別のプロバイダー経路を試します。
  • アクセス制限の規約に同意済みか確認します。

GGUF の取得に失敗する

  • リポジトリに GGUF ファイルが含まれていることを確認します。
  • ターミナルで Ollama を使い、正確な hf.co/... 参照を試します。
  • ディスクまたはメモリが限られている場合は、小さい量子化を使用します。

関連ドキュメント