前向部署工程师（推理与后训练）
岗位摘要
推理引擎优化：根据硬件、模型架构和工作负载特征，选择、配置并优化推理引擎；配置与性能调优：开发配置更新以赢得关键POC和基准测试，优化客户部署；调优KV缓存，应用投机解码，确定最佳张量并行，并制定量化策略以达成吞吐与延迟目标
岗位职责
- 推理引擎优化：根据硬件、模型架构和工作负载特征，选择、配置并优化推理引擎
- 配置与性能调优：开发配置更新以赢得关键POC和基准测试，优化客户部署；调优KV缓存，应用投机解码，确定最佳张量并行，并制定量化策略以达成吞吐与延迟目标
- 后训练与微调：推动实操RL训练并优化系统设计；指导客户从实验到生产实施LoRA、SFT、DPO、RLHF和GRPO流程
- 战略客户协同：作为指定战略客户的主要技术联系人，监控并优化端点配置，帮助客户充分利用平台，并协作确保达成关键里程碑
- 有策略的引导式上线：在客户上线时与其建立直接协同；确保从第一天起配置正确的推理与后训练设置，以提升价值实现速度
- 产品反馈闭环：通过收集一线洞察直接影响软件与模型路线图；必要时回馈产品以支持客户需求或改善体验，并推动战略客户早期采用新功能与研究成果
任职要求
- 经验：5年以上技术岗位经验，重点聚焦推理系统、开源LLM部署或后训练工作流
- 推理引擎深度：具备推理引擎（如vLLM、TensorRT-LLM、SGLang）的专家级实操经验；能够在引擎层面诊断并解决性能问题
- 推理优化：深入了解KV缓存调优、投机解码、张量并行、流水线并行和量化技术
- 后训练知识：具备微调与后训练流程的实操经验，包括LoRA、SFT、DPO、RLHF和GRPO；能够就系统设计提供建议
- 模型格局认知：广泛了解最先进的开源模型，并能针对特定客户用例、硬件配置和性能目标做出模型选型判断
- 编码能力：精通Python；适应生产环境工作
福利待遇
- 具有竞争力的薪酬
- 初创公司股权