资深机器学习工程师，语音 AI
岗位摘要
优化语音模型（STT、TTS、语音到语音）的推理性能，针对精选模型集实现业界领先的首字节时间、吞吐量和 GPU 利用率；在无服务器和专用端点上将语音模型产品化，包括面向音频工作负载的批处理策略、流式推理和内存管理
岗位职责
- 优化语音模型（STT、TTS、语音到语音）的推理性能，针对精选模型集实现业界领先的首字节时间、吞吐量和 GPU 利用率
- 在无服务器和专用端点上将语音模型产品化，包括面向音频工作负载的批处理策略、流式推理和内存管理
- 构建并维护语音模型评估框架：为 STT 衡量不同口音、语言和噪声条件下的词错误率；为 TTS 衡量自然度、延迟和发音准确度
- 随着领域发展，在服务栈中支持新模型架构，包括音频原生大语言模型、基于编解码器的模型（SNAC）和语音到语音系统
- 与模型合作伙伴（Cartesia、Deepgram、Rime 等）协作，将其模型集成并优化到 Together 的基础设施上运行
- 对整个推理栈进行性能分析与调试，从 GPU 内核到框架级瓶颈，并交付可衡量的改进
- 与团队平台工程侧合作，确保服务层满足实时语音 API 的延迟和可靠性要求
- 参与语音模型微调能力（STT 和 TTS）建设，使客户能够在 Together 上构建差异化的语音体验
- 为后续多个新产品奠定基础
任职要求
- 5 年以上机器学习工程经验，专注于模型服务、推理优化或机器学习基础设施
- 具有 LLM 服务引擎（vLLM、SGLang、TensorRT-LLM 或类似引擎）的实操经验，能够阅读和修改引擎内部代码，而不仅仅是使用 API
- 精通 Python 和 PyTorch；具有 GPU 性能分析与优化经验（CUDA、内存管理、内核级调试）
- 有将机器学习系统交付到生产环境并取得可衡量性能提升的过往记录
- 具备强烈的产品意识，思考构建语音应用的开发者真正需要什么，而不只是技术上有趣的内容
- 适应小型早期团队，能够承担多重角色并灵活应对变化