Ενσωμάτωση Qwen3-TTS

Τρέξτε το Qwen3-TTS της Alibaba τοπικά. Ο οδηγός ρυθμίζει τον OpenAI-compatible TTS server που περιλαμβάνεται στο Libre WebUI.

Επισκόπηση

Το Qwen3-TTS προσφέρει εννέα φωνές σε αγγλικά, κινέζικα, ιαπωνικά και κορεατικά, δέκα γλώσσες, cloning από τρία δευτερόλεπτα, σχεδιασμό φωνής από φυσική γλώσσα και οδηγίες για συναίσθημα/προσωδία. Ο server το περιβάλλει με OpenAI-compatible API.

Απαιτήσεις

Στοιχείο	Ελάχιστο	Συνιστώμενο
Python	3.12+	3.12 (όχι 3.14)
GPU VRAM	4GB (0.6B)	8GB+ (1.7B)
RAM	8GB	16GB+
Δίσκος	5GB	10GB

Πλατφόρμες

Πλατφόρμα	Backend	Σημείωση
NVIDIA GPU	CUDA	Καλύτερη απόδοση, bfloat16
Apple Silicon	MPS	Χρησιμοποιήστε 0.6B για μνήμη
CPU	PyTorch	Πιο αργό, χρησιμοποιήστε 0.6B

Apple Silicon

Χρησιμοποιήστε customvoice-0.6b σε Mac. Τα 1.7B μπορεί να αποσταθεροποιήσουν 16GB unified memory.

Γρήγορη εκκίνηση

1. Εγκατάσταση server

cd examples/qwen-tts-server

# Create virtual environment (Python 3.12 required)
python3.12 -m venv venv
source venv/bin/activate  # Linux/macOS
# or: venv\Scripts\activate  # Windows

# Install dependencies
pip install -r requirements.txt

2. Εκκίνηση server

# NVIDIA GPU (recommended)
python server.py --model customvoice-1.7b

# Apple Silicon
python server.py --model customvoice-0.6b

# CPU (slower)
python server.py --model customvoice-0.6b

Τρέχει στο http://localhost:8100.

3. Ρύθμιση Libre WebUI

Το plugins/qwen-tts.json είναι έτοιμο. Ενεργοποιήστε Settings → Plugins → Qwen3 TTS.

4. Δοκιμή

curl http://localhost:8100/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen3-tts", "input": "Hello, welcome to Libre WebUI!", "voice": "Ryan"}' \
  --output speech.wav

Διαθέσιμα μοντέλα

Μοντέλο	Μέγεθος	Χρήση
`customvoice-1.7b`	~3.5GB	Έτοιμες φωνές και οδηγίες
`customvoice-0.6b`	~1.5GB	Ελαφριά παραλλαγή
`voicedesign-1.7b`	~3.5GB	Φωνή από περιγραφή
`base-1.7b`	~3.5GB	Cloning τριών δευτερολέπτων
`base-0.6b`	~1.5GB	Ελαφρύ cloning

Φωνές

Έτοιμες φωνές

Φωνή	Γλώσσα	Περιγραφή
Ryan	Αγγλικά	Ανδρική, καθαρή, φυσική
Aiden	Αγγλικά	Ανδρική, ζεστή
Vivian	Κινέζικα	Γυναικεία, επαγγελματική
Serena	Κινέζικα	Γυναικεία, φιλική
Uncle_Fu	Κινέζικα	Ανδρική, ώριμη
Dylan	Κινέζικα	Διάλεκτος Πεκίνου
Eric	Κινέζικα	Διάλεκτος Sichuan
Ono_Anna	Ιαπωνικά	Γυναικεία
Sohee	Κορεατικά	Γυναικεία

Aliases OpenAI

Φωνή OpenAI	Αντιστοιχεί
`alloy`	Ryan
`echo`	Aiden
`fable`	Vivian
`onyx`	Uncle_Fu
`nova`	Serena
`shimmer`	Ono_Anna

Αναφορά API

Παραγωγή ομιλίας

Endpoint: POST /v1/audio/speech

{
  "model": "qwen3-tts",
  "input": "Text to convert to speech",
  "voice": "Ryan",
  "response_format": "wav",
  "instruct": "Speak with enthusiasm",
  "language": "English"
}

Παράμετρος	Τύπος	Προεπιλογή	Περιγραφή
`model`	string	`qwen3-tts`	ID μοντέλου
`input`	string	απαιτείται	Κείμενο, έως 10.000 χαρακτήρες
`voice`	string	`ryan`	Όνομα φωνής
`response_format`	string	`wav`	Μόνο `wav`
`instruct`	string	`""`	Συναίσθημα/προσωδία
`language`	string	auto	Override γλώσσας

Απάντηση: αρχείο (audio/wav)

Σχεδιασμός φωνής

Endpoint: POST /v1/audio/voice-design

{
  "model": "qwen3-tts-voicedesign",
  "input": "Welcome to our service.",
  "voice_description": "A warm, friendly female voice with a slight British accent",
  "language": "English"
}

σημείωση

Απαιτεί voicedesign-1.7b.

Κλωνοποίηση φωνής

Endpoint: POST /v1/audio/voice-clone

curl -X POST http://localhost:8100/v1/audio/voice-clone \
  -F "input=Hello, this is my cloned voice." \
  -F "reference_audio=@reference.wav" \
  -F "reference_text=This is what was said in the reference." \
  --output cloned.wav

Παράμετρος	Τύπος	Περιγραφή
`input`	string	Κείμενο σύνθεσης
`reference_audio`	file	Ήχος 3+ δευτερολέπτων
`reference_text`	string	Μεταγραφή αναφοράς

σημείωση

Απαιτεί base-1.7b ή base-0.6b.

Λίστα φωνών

Endpoint: GET /v1/voices

{
  "voices": [
    {"id": "ryan", "name": "Ryan", "language": "English"},
    {"id": "aiden", "name": "Aiden", "language": "English"},
    ...
  ]
}

Έλεγχος υγείας

Endpoint: GET /health

{ "status": "healthy", "model_loaded": true }

Ρύθμιση server

python server.py [OPTIONS]

Επιλογή	Προεπιλογή	Περιγραφή
`--host`	`0.0.0.0`	Host bind
`--port`	`8100`	Port bind
`--model`	`customvoice-1.7b`	Παραλλαγή μοντέλου

Πρόσβαση δικτύου

# Start server on all interfaces
python server.py --host 0.0.0.0 --port 8100

# Access from another machine
curl http://192.168.1.100:8100/v1/audio/speech ...

Ενημερώστε plugins/qwen-tts.json:

{
  "endpoint": "http://192.168.1.100:8100/v1/audio/speech",
  "capabilities": {
    "tts": {
      "endpoint": "http://192.168.1.100:8100/v1/audio/speech"
    }
  }
}

Παραγωγικές λειτουργίες

Καθαρισμός κειμένου

Ο server αφαιρεί emoji, σύμβολα, Markdown όπως *bold* και _italic_, οδηγίες όπως *(action)* και (whispers), μειώνει FUUUUU σε FUU και κανονικοποιεί κενά.

Τμηματοποίηση

Μεγάλο κείμενο χωρίζεται σε προτάσεις: έως 500 χαρακτήρες, timeout 30 δευτερόλεπτα, αποτυχημένα τμήματα παραλείπονται και τα υπόλοιπα ενώνονται.

Πολλαπλές GPU

Ο server επιβάλλει μία GPU:

device_map = {"": "cuda:0"}  # Uses first GPU only

CUDA_VISIBLE_DEVICES=1 python server.py --model customvoice-1.7b

Αντιμετώπιση προβλημάτων

Αποτυχία λήψης μοντέλου

# Set Hugging Face token for gated models
export HF_TOKEN=hf_...

# Or download manually
huggingface-cli download Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice

Έλλειψη μνήμης (Apple Silicon)

RuntimeError: MPS backend out of memory

python server.py --model customvoice-0.6b

Έλλειψη CUDA μνήμης

torch.cuda.OutOfMemoryError: CUDA out of memory

Κλείστε άλλες GPU εφαρμογές, χρησιμοποιήστε 0.6B ή μειώστε max_chunk_size=300.

Timeout server

Ελέγξτε logs και συντομεύστε το input αν χρειάζεται.

Λάθος ήχος

Επαναλήψεις οφείλονται συνήθως σε σύμβολα, λάθος γλώσσα διορθώνεται με language και παύσεις με κανονική στίξη.

Ρύθμιση plugin

{
  "id": "qwen-tts",
  "name": "Qwen3 TTS",
  "type": "tts",
  "endpoint": "http://localhost:8100/v1/audio/speech",
  "auth": {
    "header": "",
    "key_env": ""
  },
  "model_map": [
    "qwen3-tts",
    "qwen3-tts-customvoice",
    "qwen3-tts-voicedesign",
    "qwen3-tts-clone"
  ],
  "capabilities": {
    "tts": {
      "endpoint": "http://localhost:8100/v1/audio/speech",
      "model_map": [
        "qwen3-tts",
        "qwen3-tts-customvoice",
        "qwen3-tts-voicedesign",
        "qwen3-tts-clone"
      ],
      "config": {
        "voices": [
          "Ryan",
          "Aiden",
          "Vivian",
          "Serena",
          "Uncle_Fu",
          "Dylan",
          "Eric",
          "Ono_Anna",
          "Sohee"
        ],
        "default_voice": "Ryan",
        "formats": ["wav"],
        "default_format": "wav",
        "max_characters": 10000,
        "supports_streaming": false,
        "no_auth_required": true
      }
    }
  },
  "description": "Qwen3-TTS local TTS server (NVIDIA CUDA, Apple MPS, or CPU)",
  "documentation_url": "https://github.com/QwenLM/Qwen3-TTS"
}

Πόροι

Qwen3-TTS GitHub — επίσημο repository
Qwen3-TTS Demo — online δοκιμή
Alibaba Cloud TTS — cloud API docs

Επισκόπηση​

Απαιτήσεις​

Πλατφόρμες​

Γρήγορη εκκίνηση​

1. Εγκατάσταση server​

2. Εκκίνηση server​

3. Ρύθμιση Libre WebUI​

4. Δοκιμή​

Διαθέσιμα μοντέλα​

Φωνές​

Έτοιμες φωνές​

Aliases OpenAI​

Αναφορά API​

Παραγωγή ομιλίας​

Σχεδιασμός φωνής​

Κλωνοποίηση φωνής​

Λίστα φωνών​

Έλεγχος υγείας​

Ρύθμιση server​

Πρόσβαση δικτύου​

Παραγωγικές λειτουργίες​

Καθαρισμός κειμένου​

Τμηματοποίηση​

Πολλαπλές GPU​

Αντιμετώπιση προβλημάτων​

Αποτυχία λήψης μοντέλου​

Έλλειψη μνήμης (Apple Silicon)​

Έλλειψη CUDA μνήμης​

Timeout server​

Λάθος ήχος​

Ρύθμιση plugin​

Πόροι​