大模型训练推理优化工程师
岗位摘要
优化LLM、长序列、多模态、MoE等先进模型的训练和推理效率,将各场景训推MFU优化到极致状态;在自研芯片上适配常见的大模型与自驾模型,并结合芯片特点做优化,充分发挥自研芯片算力;针对大规模异构混芯集群,探索自动并行、多芯混训等前沿技术,构建影响力
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 优化LLM、长序列、多模态、MoE等先进模型的训练和推理效率,将各场景训推MFU优化到极致状态
- 在自研芯片上适配常见的大模型与自驾模型,并结合芯片特点做优化,充分发挥自研芯片算力
- 针对大规模异构混芯集群,探索自动并行、多芯混训等前沿技术,构建影响力
- 与业务团队协同,理解客户需求,驱动技术创新,业务持续突破
任职要求
- 熟悉大模型或者自动驾驶模型结构,做过适配、优化等工作
- 熟悉PyTorch,了解Megatron、vLLM等大模型训推框架,做过测试、开发等工作
- 做过GPU芯片适配和优化经验优先
- 有独立的分析问题和解决问题的能力
- 有强烈的责任心,较强的学习能力和沟通能力
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。