深度学习推理系统架构师
岗位摘要
深度协同算法团队，主导深度学习算法端到端推理系统的架构设计与落地实践；聚焦高吞吐、低延时核心目标，攻克大模型推理工程化落地关键技术瓶颈；针对大模型推理全链路进行性能瓶颈深度剖析；通过算子优化、量化策略、资源调度等手段实现推理吞吐最大化
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 深度协同算法团队，主导深度学习算法端到端推理系统的架构设计与落地实践
- 聚焦高吞吐、低延时核心目标，攻克大模型推理工程化落地关键技术瓶颈
- 针对大模型推理全链路进行性能瓶颈深度剖析
- 通过算子优化、量化策略、资源调度等手段实现推理吞吐最大化
- 建立性能 - 成本评估体系，制定资源利用率极致优化方案，实现推理成本可控化
- 主导大模型推理框架底层架构优化，完善框架功能模块（如动态批处理、推理缓存、容错机制）
- 构建工程化能力体系，提升框架易用性（API 设计、配置化能力）与可调试性（日志系统、性能埋点、调试工具链）
- 支撑大规模推理服务稳定迭代
任职要求
- 具备深度学习算法端到端推理系统的架构设计与落地实践经验
- 熟悉大模型推理工程化落地关键技术
- 具备大模型推理全链路性能瓶颈分析与优化能力
- 掌握算子优化、量化策略、资源调度等性能优化手段
- 具备建立性能-成本评估体系与资源优化方案的能力
- 熟悉大模型推理框架底层架构优化与功能模块开发
- 具备构建工程化能力体系，提升框架易用性与可调试性的经验
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。