IndexTTS-vLLM：使用 vLLM 推理加速的开源文本转语音

IndexTTS-vLLM 是 IndexTTS 文本转语音系统的加速版本，将模型的推理流水线移植到 vLLM 上运行——vLLM 是原本为大型语言模型服务开发的高性能推理引擎。结果是 TTS 推理速度提升 2.5-3.5 倍，在消费级 GPU 上实现了具有零样本语音克隆和多角色音频混合的实时语音合成。

仓库：github.com/Ksuriuri/index-tts-vllm

架构

flowchart LR
    A[输入文本] --> B[文本编码器\n音素化与 Token 化]
    B --> C[vLLM 推理引擎\n音频 Token 生成]
    C --> D[音频解码器\nToken 转波形]
    D --> E[输出音频\nWAV / MP3]

    F[语音参考\n音频样本] --> G[语音编码器]
    G --> C

性能提升

多角色音频混合应用场景

常见问题

什么是 IndexTTS-vLLM？ IndexTTS 的加速版本，利用 vLLM 实现约 3 倍推理速度提升。支持零样本语音克隆和多角色音频混合。

vLLM 加速如何改进 IndexTTS？ 使用 PagedAttention 和连续批处理，实现 3 倍更快的 Token 生成。

比原始版本快多少？ 约 2.5-3.5 倍加速。RTX 4090 上从 0.4x 实时提升到 1.2-1.5x 实时。

什么是多角色音频混合？ 在单个输出文件中生成包含多种不同语音的音频。

需要什么硬件？ 至少 8GB VRAM 的 CUDA 兼容 GPU。建议 RTX 3060（12GB）或更高。

扩展阅读

• IndexTTS-vLLM GitHub 仓库
• vLLM 项目
• IndexTTS 原始论文
• PagedAttention 论文