产业 / 媒体
OpenAI用自家大模型设计Jalapeño芯片,从概念到流片不足20个月
OpenAI于8月25日正式发布其首款自研AI加速芯片Jalapeño,该芯片提供最高13.4 PFLOPS的4位算力,配备232GB高带宽内存,内存带宽达15.4 TB/s。与OpenAI目前依赖的英伟达GB300相比,Jalapeño在端到端推理延迟上最高可降低3.6倍,且功耗更低。这款芯片从架构概念到首批硅片产出历时不足20个月,RTL代码完成到流片仅用9个月。整个设计过程中,OpenAI将自家大语言模型深度融入前端设计工作流,借助开源高层次综合工具链XLS,工程师可用类Rust语言DSLX和C++编写芯片逻辑,再由AI辅助转换为硬件描述语言。在软件优化阶段,AI模型在约40小时内将DeepSeek多头潜在注意力核心基准测试的性能从理论峰值的0.31%提升至88.94%。整个设计团队平均不足100人,物理设计实现部分由合作伙伴博通承担。
Jalapeño是OpenAI首款自研AI推理加速芯片,于2026年8月25日正式亮相。芯片提供最高13.4 PFLOPS的4位浮点算力,搭载232GB最新一代高带宽内存,内存带宽高达15.4 TB/s。OpenAI公布的基准测试数据显示,与公司目前大规模使用的英伟达GB300相比,Jalapeño的端到端推理延迟最高可降低3.6倍,同时功耗更低。不过,这些数字能否在大规模推理集群中真实复现,仍有待观察。
Jalapeño的设计速度同样引人注目。从首个架构概念到首批硅片产出,整个周期不足20个月;从RTL代码定稿到流片送厂,仅历时9个月。OpenAI硬件副总裁Richard Ho表示,整个设计团队平均规模不足100人,涵盖系统设计、软件和供应链等多个职能。博通作为合作伙伴负责从门级电路开始的物理设计实现,而OpenAI团队则主导端到端系统设计,包括推理加速器架构、存储层次结构和网络互联。
大语言模型在芯片前端设计中发挥了关键作用。OpenAI围绕开源高层次综合工具链XLS构建了AI辅助设计工作流,工程师可用DSLX或C++描述芯片逻辑,XLS再将其转换为Verilog硬件描述语言。OpenAI技术人员Chris Leary指出,LLM在处理「看起来像软件」的任务时表现更佳,而XLS恰好具备这一特性。加州大学圣地亚哥分校教授Andrew Kahng认为,这一工作流「具有很强的普适性,未来大有可为」。
软件优化阶段同样展现出AI的惊人效率。当首批芯片从晶圆厂返回后,团队将内部AI模型用于设计基准测试软件。在DeepSeek多头潜在注意力核心基准测试中,性能在约40小时内从理论峰值的0.31%跃升至88.94%。Ho表示这一结果可重复复现,意味着从晶圆厂交付首批芯片到量产爬坡的周期可以大幅压缩,并已将这一能力纳入后续项目的排期假设。
在芯片后端设计方面,AI的介入目前相对有限,大部分工作由博通承担。不过OpenAI团队在IEEE Hot Chips 2026上披露,AI辅助物理设计优化使矩阵乘法单元面积相比人工优化基线缩减了10%。多位业内专家认为,OpenAI对后端设计的处理方式偏于保守,这与项目启动时间(2024年10月)有关——彼时LLM处理此类任务的能力尚不成熟,而近几个月模型能力已有显著提升。
Ho和Leary均表示,第二代芯片的设计工作流将在更多环节引入AI,包括验证、物理设计以及自动波形分析等调试工具。尽管如此,两人也明确指出,芯片设计并不会走向完全自动化。Ho强调:「我们并不是说任何人都可以仅凭Codex就造出最先进的AI加速芯片。我们说的是,如何在小团队、快节奏的条件下,更好地利用AI工具达到高质量的设计结果。」OpenAI的目标是将Jalapeño项目中积累的经验反哺到商业LLM产品中,使未来的模型在芯片设计领域具备更强能力。
要点
- Jalapeño从架构概念到首批硅片历时不足20个月,RTL到流片仅9个月,整个设计团队平均规模不足100人
- OpenAI将LLM深度融入前端设计工作流,借助XLS工具链实现从高级语言到硬件描述语言的AI辅助转换,显著加快迭代速度
- AI软件优化在约40小时内将DeepSeek注意力核心基准性能从理论峰值0.31%提升至88.94%,大幅压缩量产爬坡周期
- 后端物理设计目前仍主要依赖博通,但多位专家认为近期LLM能力提升已使AI介入后端设计成为可能
- OpenAI明确表示芯片设计不会完全自动化,但计划在第二代芯片中进一步扩大AI在验证和物理设计环节的应用
原始标题:How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。