推理系统性能工程师
岗位摘要
跨层开展吞吐量、延迟与可靠性的性能调查，量化实际集群性能与理论性能上限之间的差距，定位根本原因并评估消除差距的价值；负责并改进正确性评估流水线，在硬件平台、数值精度与服务配置等维度验证模型输出质量，并在其捕获回归时牵头调查
岗位职责
- 跨层开展吞吐量、延迟与可靠性的性能调查，量化实际集群性能与理论性能上限之间的差距，定位根本原因并评估消除差距的价值
- 负责并改进正确性评估流水线，在硬件平台、数值精度与服务配置等维度验证模型输出质量，并在其捕获回归时牵头调查
- 构建可观测性、仪表盘与建模工具，使吞吐量、延迟、成本、可靠性、正确性及其相互作用在整个技术栈中清晰可见
- 与内核、服务、路由、自动扩缩容和容量团队合作，对分析揭示的最高影响优化进行优先级排序并推动落地
- 对大量优化机会按影响与投入进行严格排序，并果断拒绝不达标的机会
任职要求
- 具备一线性能工程实践经验：在复杂生产系统中进行性能剖析、roofline分析、延迟与吞吐量优化及根因调查
- 精通Python，能够阅读、插桩并为你未编写的大型生产代码库做出贡献
- 扎实的数据分析能力（如SQL、pandas或类似工具），足以将原始遥测数据转化为清晰结论
- 能够以书面形式清晰传达量化结果，从而影响你并不管理的团队的优先级
- 对正确性作为工程学科有真正的兴趣：数值计算、评估设计与回归检测
- 具备ML系统经验，尤其是训练或推理基础设施或通用LLM服务栈，直接的大规模推理经验是强加分项
- 熟悉GPU、TPU或加速器性能概念（内存带宽、内核开销、量化、集合通信），并具备相关推理能力