软件工程师,数据基础设施 - 研究
岗位摘要
设计和维护标准化的数据集API,包括无法放入内存的多模态(MM)数据;构建主动测试和规模验证管道,用于GPU规模的数据集加载;与团队成员合作,将数据集无缝集成到训练和推理管道中,确保顺利采用和良好的用户体验
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 设计和维护标准化的数据集API,包括无法放入内存的多模态(MM)数据
- 构建主动测试和规模验证管道,用于GPU规模的数据集加载
- 与团队成员合作,将数据集无缝集成到训练和推理管道中,确保顺利采用和良好的用户体验
- 记录和维护数据集接口,使其易于发现、一致且易于其他团队采用
- 建立保障和验证系统,确保数据集一旦标准化后保持可重现和不变
- 调试和解决分布式数据集加载中的性能瓶颈(例如,拖慢全局训练的落后系统)
- 提供可视化和检查工具,以显示数据集中的错误、缺陷或瓶颈
任职要求
- 具备分布式系统、数据管道或基础设施方面的强大工程基础和经验
- 有构建API、模块化代码和可扩展抽象的经验,同时认识到抽象最终服务于用户,用户体验是抽象设计的重要组成部分
- 能够轻松调试大型机器群中的瓶颈
- 以构建“即插即用”的基础设施为荣,并乐于成为可靠性和规模的守护者
- 具有合作精神、谦虚态度,并乐于拥有ML堆栈中基础(即使不那么光鲜)的部分
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。