AI系统工程师
岗位摘要
设计兼顾性能与成本的优化方案，平衡硬件算力与模型效率；应用量化、kvcache、多机多卡并行等加速技术；进行集群部署；计算机、电子工程、自动化、数学等相关专业优先；精通Python/C++，具备CUDA/BANGC等异构编程经验
岗位职责
- 设计兼顾性能与成本的优化方案，平衡硬件算力与模型效率
- 应用量化、kvcache、多机多卡并行等加速技术
- 进行集群部署
任职要求
- 计算机、电子工程、自动化、数学等相关专业优先
- 精通Python/C++，具备CUDA/BANGC等异构编程经验
- 对硬件算力与模型效率的平衡有深刻认知
- 深入理解LLM或者视觉生成模型原理
- 深入理解量化、kvcache、多机多卡并行等加速技术