推理优化实习生
岗位摘要
优化视频生成大模型的推理效率，包括速度和显存占用等；研发前沿的视频生成优化算法，包括全注意力和自回归路线，并推动落地产品；对模型压缩（量化、剪枝、蒸馏）或算子优化（如矩阵乘、注意力、算子融合）有较深入的研发经验
岗位职责
- 优化视频生成大模型的推理效率，包括速度和显存占用等
- 研发前沿的视频生成优化算法，包括全注意力和自回归路线，并推动落地产品
任职要求
- 对模型压缩（量化、剪枝、蒸馏）或算子优化（如矩阵乘、注意力、算子融合）有较深入的研发经验
- 熟悉视频生成算法或熟悉自回归的生成技术
- 熟悉Transformer网络架构，对ViT/DiT等网络有较深理解
- 有算法加速相关的实习经验优先
- 计算机算法和编程基础良好