研究工程师,后训练推理
岗位摘要
设计和构建Together的系统,用于定制开源模型;构建模型塑造平台与推理平台之间的集成,确保从后训练到生产工作负载的无缝衔接;为推理引擎添加功能,支持大规模后训练实验,包括针对RL工作负载的优化
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 设计和构建Together的系统,用于定制开源模型
- 构建模型塑造平台与推理平台之间的集成,确保从后训练到生产工作负载的无缝衔接
- 为推理引擎添加功能,支持大规模后训练实验,包括针对RL工作负载的优化
- 确保服务的稳定性和健壮性,参与轮值待命,保障平台24/7可用
任职要求
- 拥有2年以上在生产环境中构建和部署基于机器学习的服务的经验
- 具备现代推理引擎(如SGLang、vLLM和TensorRT-LLM)的实际操作经验
- 熟悉微调LLM及其他AI模型的最新方法
- 具备扎实的Python或Go软件工程背景
- 紧跟机器学习社区的最新进展和趋势
- 以下经验将使您脱颖而出:服务低精度(FP4/FP8)模型、单模型实例内多LoRA适配器(Multi-LoRA)或跨多个GPU节点分布的模型
- 优化RL训练工作负载的性能
- 开发用于推理的CUDA/Triton/CuTE DSL内核
- 开发大规模和高负载的生产系统
- 维护或贡献开源机器学习项目
- 在Kubernetes集群上管理机器学习工作负载
福利待遇
- 具有竞争力的薪酬
- 初创公司股权
- 美国全职岗位基本薪资范围:20万至29万美元
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。