无人车业务部-多模态大模型基础设施工程师
岗位摘要
负责世界模型训练与推理基础设施的建设与优化,支撑扩散模型、视频生成模型等大规模生成模型的高效训练与部署;设计和优化分布式训练方案,包括数据并行、模型并行、流水线并行等策略,提升多节点多卡训练的吞吐效率和稳定性
岗位职责
- 负责世界模型训练与推理基础设施的建设与优化,支撑扩散模型、视频生成模型等大规模生成模型的高效训练与部署
- 设计和优化分布式训练方案,包括数据并行、模型并行、流水线并行等策略,提升多节点多卡训练的吞吐效率和稳定性
- 构建高性能模型推理服务,针对生成模型特点进行推理加速优化,包括量化、算子融合、显存优化、批处理调度等,满足离线批量生成和在线服务的性能需求
- 搭建并维护端到端的数据流水线,覆盖图像、视频、点云等大规模多模态数据的采集、清洗、标注、存储与高效加载,保障训练数据质量和供给效率
- 与算法工程师紧密协作,将前沿算法研究成果高效工程化落地,推动从原型验证到生产级部署的全流程
任职要求
- 计算机科学、软件工程等相关专业硕士及以上学历,1至5年相关工作经验
- 具备扎实的系统工程能力,精通Python,熟悉C++/CUDA,有高性能计算或系统优化经验
- 熟悉主流深度学习框架PyTorch的训练与推理流程,有大模型或生成模型训练、推理优化的实际经验
- 熟悉分布式训练技术(DeepSpeed、FSDP、Megatron-LM等)或推理加速技术(TensorRT、vLLM、Triton等)中的至少一项
- 具备大规模数据处理能力,熟悉数据流水线构建工具(Spark、Ray、Airflow等),有处理TB级以上多模态数据的经验
- 拥有良好的工程习惯,重视代码质量、系统可靠性和可维护性
福利待遇
- 与最优秀的同学携手合作,探索最前沿的技术领域,并将创新的想法转化为实际成果
- 提供充满活力和挑战的工作环境,鼓励创意和突破,助力员工在职业生涯中不断成长和取得成就
- 这里不仅是一个工作的地方,更是实现梦想的舞台