大模型推理优化工程师
岗位摘要
参与大模型应用场景下软件模块的性能分析与优化,涵盖算法、竞品分析及算子实现等;探索多模态、大语言模型等前沿技术方向,推动其在公司产品中的落地应用;协助客户解决推理方案部署过程中的算法与系统问题
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 参与大模型应用场景下软件模块的性能分析与优化,涵盖算法、竞品分析及算子实现等
- 探索多模态、大语言模型等前沿技术方向,推动其在公司产品中的落地应用
- 协助客户解决推理方案部署过程中的算法与系统问题
任职要求
- 计算机、人工智能、自动化、数学等相关专业优先
- 熟悉Transformer架构及模型原理,具备相关模型优化与适配经验
- 熟练掌握C/C++、Python,具备良好的算法设计与代码实现能力
- 了解PyTorch、vLLM、trtllm、diffusers等至少一种开源框架
- 有责任心、学习能力强,具备良好沟通能力和自驱力,热衷新技术探索
加分项
- 有大语言模型/多模态/NLP/语音等某一方向有相关的项目开发或者竞赛经验
- 在分布式推理/量化/长序列优化/算子融合等某一技术方向有实际优化经验
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。