操作系统工程师，端侧推理 | 消费设备
岗位摘要
构建推理平台：设计和实现可维护的操作系统服务、框架及清晰的接口，用于推理执行、模型加载与生命周期管理以及资源管理；使模型适应设备约束：与研究团队合作进行量化、运行时集成和内存优化，以满足内存、计算和能耗预算，同时评估模型质量和产品行为
岗位职责
- 构建推理平台：设计和实现可维护的操作系统服务、框架及清晰的接口，用于推理执行、模型加载与生命周期管理以及资源管理
- 使模型适应设备约束：与研究团队合作进行量化、运行时集成和内存优化，以满足内存、计算和能耗预算，同时评估模型质量和产品行为
- 协调系统资源：开发调度和资源策略，平衡推理与其他设备活动，在延迟、内存、电池和热约束内保持响应性
- 推进性能和功耗管理：开发和验证适应工作负载需求、可用资源和设备条件变化的执行策略
- 跨栈调试：使用跟踪、性能分析和结构化调试来调查模型、推理运行时和操作系统组件中的正确性、并发性、性能和可靠性问题
- 测量和验证改进：构建诊断工具、插桩、代表性设备工作负载和自动化测试，以在物理设备上展示可重复的性能和能效提升，捕获回归并验证持续使用
- 将能力推向生产：与研究、硬件、固件、平台和产品工程团队合作，将新兴模型能力转化为可维护的系统并可靠地交付功能
任职要求
- 具有设计、开发和调试操作系统组件、系统服务或性能关键平台软件的丰富实践经验
- 精通C++系统开发，包括并发编程、内存所有权和资源生命周期管理
- 具有在资源受限环境中集成或优化推理运行时或机器学习工作负载的实践经验
- 深入理解调度、内存管理以及工作负载如何竞争共享系统资源
- 具有诊断复杂系统行为并通过可重复测量提供性能或功耗改进的经验
- 能够跨学科工作，将研究和产品需求转化为系统需求，并清晰解释技术决策和权衡