AWS Machine Learning Blog· Yadan Wei·· 17 小时前AI 评分35
用 vLLM-Omni 在 SageMaker AI 上构建实时语音应用（第一部分）
Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1
AI 导读
本教程演示在 Amazon SageMaker AI 上部署 Qwen3-TTS 模型，通过 AWS vLLM-Omni Deep Learning Container（DLC）实现流式文本输入和音频输出，在持久双向连接上传输 24 kHz PCM 音频块。
来源：AWS Machine Learning Blog · aws.amazon.com