Hugging Face Hub
Libre WebUI는 다음 두 가지 방식으로 Hugging Face와 통합됩니다.
- Hugging Face Inference Providers를 통한 공급자 플러그인 접근
- Ollama를 통해 가져올 수 있는 GGUF 모델을 비롯한 호환 모델을 앱 내 Hub에서 탐색
공급자 플러그인 구성하기
추론 접근 권한이 있는 Hugging Face 액세스 토큰을 만든 다음 설정에서 추가하거나 환경 변수로 지정합니다.
HUGGINGFACE_API_KEY=hf_...
설정 > 플러그인에서 Hugging Face 플러그인을 활성화합니다.
기능
모델과 공급자의 가용성에 따라 Hugging Face에서 다음 기능을 제공할 수 있습니다.
- 채팅/완성 모델
- 텍스트 음성 변환
- 이미지 생성
- 임베딩
- 음성 텍스트 변환
Hugging Face의 가용성, 요금, 라우팅은 모델별로 달라질 수 있습니다. 현재 상태는 모델 페이지와 Hugging Face 공급자 UI에서 확인하세요.
모델 브라우저
앱 내 브라우저에서 다음 작업을 할 수 있습니다.
- 모델 이름 또는 작성자로 검색
- 작업별 필터링
- 인기, 다운로드, 좋아요, 생성일 또는 업데이트일 기준 정렬
- 접근 제한 모델 상태 확인
- 지원되는 경우 Ollama를 통해 호환 GGUF 파일 가져오기
브라우저는 백엔드 프록시를 통해 Hub 메타데이터를 가져오고 성능 향상을 위해 결과를 캐시합니다. 백엔드에서 Hub를 검색하려면 활성 Libre 세션이 필요하며, 공유 모델 캐시는 현재 관리자만 지울 수 있습니다.
GGUF와 Ollama
로컬 추론에는 GGUF 형식 모델을 찾으세요. 저장소에서 적합한 GGUF 파일을 제공하는 경우 Libre WebUI는 Ollama 호환 hf.co/... 모델 참조를 사용할 수 있습니다.
예시 패턴:
ollama run hf.co/owner/model-repo:tag
가능하면 UI를 사용하세요. 복사/붙여넣기 오류를 줄이고 모델 메타데이터를 계속 확인할 수 있습니다.
Inference Provider 라우팅
Hugging Face의 OpenAI 호환 라우터는 Hub의 모델 ID를 지원합니다. 일부 경로에서는 접미사 또는 공급자 기본 설정을 지원합니다. 이 동작은 시간이 지나며 변경되므로 정확한 모델 ID는 최신 Hugging Face 문서와 앱 내 모델 브라우저에서 확인하세요.
접근 제한 모델
일부 모델은 사용 전에 약관에 동의해야 합니다.
- Hugging Face에서 모델 페이지를 엽니다.
- 라이선스 또는 약관에 동의합니다.
- 토큰에 접근 권한이 있는지 확인합니다.
- Libre WebUI에서 다시 시도합니다.
토큰에 실행 권한이 부여되기 전에도 접근 제한 모델이 검색 결과에 나타날 수 있습니다.
문제 해결
승인되지 않음
- 토큰 값을 확인합니다.
- 토큰에 추론 권한이 있는지 확인합니다.
- 사용자별 자격 증명을 사용한다면 현재 사용자의 키가 저장되어 있는지 확인합니다.
모델을 사용할 수 없음
- Hugging Face 모델 페이지를 확인합니다.
- 가능한 경우 다른 공급자 경로를 사용해 봅니다.
- 접근 제한 약관에 동의했는지 확인합니다.
GGUF 가져오기 실패
- 저장소에 GGUF 파일이 있는지 확인합니다.
- 터미널에서 Ollama를 사용해 정확한
hf.co/...참조를 시도합니다. - 디스크나 메모리가 제한적이면 더 작은 양자화를 사용합니다.