开源项目精选 60GitHub
nari-labs/nari-qwen3-tts· 超快 Qwen3-TTS 模型
Ultrafast Qwen3-TTS: sub-50 ms time-to-first-audio at 10 requests per second.
AI 解读代码
高性能 TTS 服务,单 H100 实现低延迟和高吞吐量
- 项目简介
- Nari Qwen3-TTS 是一个基于 NVIDIA H100 的高性能 TTS 服务,支持流式和非流式音频生成。
- 与 AI 的关系
- 利用大模型进行高效语音生成,通过优化的硬件和软件配置实现低延迟和高吞吐量
- 适合谁读
- 研究者、工程师、产品团队
- 适用场景
- 实时语音合成、多模态应用、语音助手
- 技术栈
- Qwen3-TTS 1.7B CustomVoice, NVIDIA H100, CUDA 13.0, Docker, Python, uv
- 核心亮点
- 首音频延迟 <50ms,10 RPS支持 WebSocket 增量文本输入提供多种性能配置文件
⭐ 94 stars语言 Python
📎 发布于 08-12 10:22🔗 阅读原文(github.com)