软件工程师，推理方向 - 性能优化
岗位摘要
构建并完善性能模型，将微基准测试结果转化为服务成本估算；端到端分析应用、模型与集群基础设施中的推理工作负载；增强工具，识别各层在延迟和吞吐方面的瓶颈；与其他团队合作，将性能洞察转化为具体改进，并预测未来变化对推理的影响
岗位职责
- 构建并完善性能模型，将微基准测试结果转化为服务成本估算
- 端到端分析应用、模型与集群基础设施中的推理工作负载
- 增强工具，识别各层在延迟和吞吐方面的瓶颈
- 与其他团队合作，将性能洞察转化为具体改进，并预测未来变化对推理的影响
任职要求
- 乐于从第一性原理出发，思考分布式系统、模型推理与硬件效率
- 能够跨抽象层工作，从应用行为到内核、加速器、网络与集群调度
- 在性能剖析、基准测试、分析与优化方面具备深厚专业知识
- 乐于与工程和研究团队协作，改进真实生产系统