Kokoro-FastAPI

Giới thiệu

Kokoro-FastAPI là một wrapper (lớp bao bọc) sử dụng framework FastAPI để triển khai mô hình Text-to-Speech (TTS) Kokoro-82M. Đây là một mô hình TTS mã nguồn mở nhẹ nhưng cho chất lượng giọng đọc rất tự nhiên, hỗ trợ nhiều ngôn ngữ (bao gồm tiếng Anh, tiếng Nhật, tiếng Trung, và đang phát triển tiếng Việt). Dự án này giải quyết vấn đề triển khai TTS offline/self-hosted bằng cách cung cấp một API server chuẩn, giúp bạn dễ dàng tích hợp giọng đọc AI vào các ứng dụng như trợ lý ảo (SillyTavern, OpenWebUI), đọc sách tự động, hoặc các hệ thống nhà thông minh mà không cần phụ thuộc vào dịch vụ đám mây đắt đỏ.

Tính năng chính

Tương thích OpenAI API: Cung cấp endpoint /v1/audio/speech giống hệt OpenAI, cho phép thay thế trực tiếp (drop-in replacement) trong các ứng dụng có sẵn.
Hiệu năng cao: Hỗ trợ tăng tốc bằng GPU (NVIDIA) và chạy tốt trên CPU nhờ tối ưu hóa ONNX.
Giao diện Web (Web UI): Tích hợp sẵn giao diện web để nghe thử, trộn giọng (voice mixing) và kiểm tra API trực quan.
Xử lý văn bản dài: Tự động ghép nối (stitching) âm thanh cho các đoạn văn bản dài mà không bị ngắt quãng.
Hỗ trợ Docker: Cung cấp sẵn các Docker image cho cả CPU và GPU, giúp việc cài đặt trở nên đơn giản chỉ với một câu lệnh.

Hướng dẫn cài đặt Local (macOS)

Để chạy trực tiếp trên macOS (sử dụng CPU/MPS), bạn cần cài đặt các thư viện phụ thuộc:

Cài đặt espeak-ng (Bắt buộc): Mở Terminal và chạy lệnh Homebrew: brew install espeak-ng

Clone repository:

git clone https://github.com/remsky/Kokoro-FastAPI.git
cd Kokoro-FastAPI

Cài đặt Python dependencies: Khuyến khích sử dụng uv hoặc venv:

# Tạo môi trường ảo
python3 -m venv venv
source venv/bin/activate
   
# Cài đặt thư viện
pip install -r requirements.txt

Chạy ứng dụng:
```
python main.py
```
Server sẽ khởi động tại http://localhost:8880 (hoặc port 8000 tùy cấu hình mặc định).

Hướng dẫn Docker

Cách nhanh nhất để sử dụng là qua Docker. Dự án cung cấp sẵn image trên GitHub Container Registry.

Chạy phiên bản CPU (Phù hợp cho mọi máy):

docker run -d -p 8880:8880 --name kokoro-tts ghcr.io/remsky/kokoro-fastapi-cpu:latest

Chạy phiên bản GPU (Yêu cầu NVIDIA GPU & Drivers):

docker run -d --gpus all -p 8880:8880 --name kokoro-tts ghcr.io/remsky/kokoro-fastapi-gpu:latest

Sau khi chạy, truy cập:

Web UI: http://localhost:8880/web
API Docs: http://localhost:8880/docs

Ví dụ Code (Python)

Dưới đây là ví dụ sử dụng thư viện openai của Python để gọi API Kokoro (vì nó tương thích chuẩn OpenAI):

from openai import OpenAI

# Kết nối đến server Kokoro-FastAPI local
client = OpenAI(
    base_url="http://localhost:8880/v1",
    api_key="not-needed"  # Không cần key cho local
)

response = client.audio.speech.create(
    model="kokoro",
    voice="af_bella",  # Tên giọng đọc (ví dụ: af_bella, am_adam)
    input="Xin chào, đây là giọng đọc được tạo từ Kokoro TTS!"
)

# Lưu file âm thanh
response.stream_to_file("output.mp3")
print("Đã tạo file output.mp3 thành công!")

Sources

Github Page

https://github.com/remsky/Kokoro-FastAPI

Tags: github