返回岗位列表

Together AI

研究工程师,后训练推理

地点:美国 薪资:$200,000-$290,000 日期:2026-07-20

岗位摘要

设计和构建Together的系统,用于定制开源模型;构建模型塑造平台与推理平台之间的集成,确保从后训练到生产工作负载的无缝衔接;为推理引擎添加功能,支持大规模后训练实验,包括针对RL工作负载的优化

岗位职责

  • 设计和构建Together的系统,用于定制开源模型
  • 构建模型塑造平台与推理平台之间的集成,确保从后训练到生产工作负载的无缝衔接
  • 为推理引擎添加功能,支持大规模后训练实验,包括针对RL工作负载的优化
  • 确保服务的稳定性和健壮性,参与轮值待命,保障平台24/7可用

任职要求

  • 拥有2年以上在生产环境中构建和部署基于机器学习的服务的经验
  • 具备现代推理引擎(如SGLang、vLLM和TensorRT-LLM)的实际操作经验
  • 熟悉微调LLM及其他AI模型的最新方法
  • 具备扎实的Python或Go软件工程背景
  • 紧跟机器学习社区的最新进展和趋势
  • 以下经验将使您脱颖而出:服务低精度(FP4/FP8)模型、单模型实例内多LoRA适配器(Multi-LoRA)或跨多个GPU节点分布的模型
  • 优化RL训练工作负载的性能
  • 开发用于推理的CUDA/Triton/CuTE DSL内核
  • 开发大规模和高负载的生产系统
  • 维护或贡献开源机器学习项目
  • 在Kubernetes集群上管理机器学习工作负载

福利待遇

  • 具有竞争力的薪酬
  • 初创公司股权
  • 美国全职岗位基本薪资范围:20万至29万美元