多模态长上下文模型训练工程师
岗位摘要
负责 MiniCPM-o 在长视频、长音视频上下文、长文本场景下的模型训练与效果优化；建设长上下文训练数据链路，处理长视频训练数据并确保稳定训练；参与长上下文全模态模型训练策略设计，包括数据配比与长序列稳定训练优化
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责 MiniCPM-o 在长视频、长音视频上下文、长文本场景下的模型训练与效果优化
- 建设长上下文训练数据链路，处理长视频训练数据并确保稳定训练
- 参与长上下文全模态模型训练策略设计，包括数据配比与长序列稳定训练优化
- 针对长视频问答、多轮历史上下文等任务，设计训练实验和评测分析方案
任职要求
- 具备长视频理解、长文本建模、长上下文LLM或多模态长序列训练相关经验
- 熟悉Transformer长序列训练中的常见问题，如位置编码、KV cache、linear attention及显存优化等
- 熟悉PyTorch/Transformers，具备大模型SFT或预训练经验
- 能够独立进行多卡训练实验，包括配置训练任务、分析bad case和模型评测
- 具备扎实的算法分析能力和工程实现能力，能在复杂训练系统中定位数据、模型及训练问题
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。