TPU 内核工程师
岗位摘要
识别和解决跨研究、训练和推理等多种机器学习系统的性能问题；为TPU设计和优化内核；向研究人员提供关于模型变更如何影响性能的反馈；实施大型语言模型的低延迟、高吞吐量采样；使现有模型适应低精度推理
岗位职责
- 识别和解决跨研究、训练和推理等多种机器学习系统的性能问题
- 为TPU设计和优化内核
- 向研究人员提供关于模型变更如何影响性能的反馈
- 实施大型语言模型的低延迟、高吞吐量采样
- 使现有模型适应低精度推理
- 构建系统性能的量化模型
- 设计和实现自定义的集体通信算法
- 在汇编级别调试内核性能
任职要求
- 拥有优化TPU、GPU或其他加速器上机器学习系统的丰富经验
- 以结果为导向，倾向于灵活性和影响力
- 愿意承担额外工作，即使超出职位描述范围
- 喜欢结对编程
- 希望了解更多关于机器学习研究的知识
- 关心工作的社会影响
- 拥有高性能、大规模机器学习系统的经验
- 拥有为TPU或其他机器学习加速器设计和实现内核的经验
- 深入理解加速器，例如具有计算机架构背景
- 了解机器学习框架内部原理
- 具有使用Transformer进行语言建模的经验
- 至少拥有相关领域的学士学位或同等经验