机器学习工程师 - 推理
岗位摘要
设计并构建支撑 Together AI 推理引擎的生产系统，确保其在大规模场景下的可靠性与性能；为大规模人工智能应用开发和优化运行时推理服务；与研究人员、工程师、产品经理和设计师协作，将新功能与研究成果推向市场
岗位职责
- 设计并构建支撑 Together AI 推理引擎的生产系统，确保其在大规模场景下的可靠性与性能
- 为大规模人工智能应用开发和优化运行时推理服务
- 与研究人员、工程师、产品经理和设计师协作，将新功能与研究成果推向市场
- 参与设计评审与代码评审，确保高质量标准
- 创建服务、工具和开发者文档，以支持推理引擎的运行与维护
- 实现健壮且具备容错能力的数据摄取与处理系统
任职要求
- 3 年以上编写高性能、经过充分测试且达到生产质量代码的经验
- 熟练掌握 Python 与 PyTorch
- 具备构建高性能库与工具链的实践经验
- 深入理解底层操作系统概念，包括多线程、内存管理、网络、存储、性能与扩展性
- 优先：熟悉现有 AI 推理系统，如 TGI、vLLM、TensorRT-LLM、Optimum
- 优先：了解推测解码等 AI 推理技术
- 优先：具备 CUDA/Triton 编程知识
- 加分项：了解 Rust、Cython 与编译器相关知识
福利待遇
- 提供具有竞争力的薪酬与初创公司股权
- 提供健康保险及其他有竞争力的福利
- 该美国全职岗位的基本薪资范围为 200,000 至 300,000 美元，另加股权与福利
- 薪资范围根据工作地点、职级和岗位确定，个人薪酬依据经验、技能及岗位相关知识决定
- 作为平等机会雇主，为所有人提供平等的就业机会，不因种族、肤色、血统、宗教、性别、国籍、性取向、年龄、公民身份、婚姻状况、残疾、性别认同或退伍军人身份等而区别对待