产业 / 媒体
谷歌Frozen v2芯片将Gemini架构直接固化到硅片中,效率提升6-10倍
谷歌正在开发一款名为Frozen v2的服务器芯片,将Gemini AI模型架构直接固化到硅片中,而非仅存储权重。据内部消息,该芯片的推理效率比当前TPU提升6到10倍,计划2028年部署。与TPU不同,Frozen v2专为Gemini架构设计,部分模型结构永久嵌入硬件,减少计算步骤并加速响应。该芯片主要服务于谷歌内部AI计算需求,不会对外销售,但可能通过降低推理成本,帮助谷歌在AI市场与OpenAI和Anthropic竞争。
谷歌正在开发一款名为Frozen v2的服务器芯片,将Gemini AI模型架构直接固化到硅片中。据The Information援引内部消息,该芯片的推理效率比当前TPU提升6到10倍,计划2028年部署。与TPU不同,Frozen v2专为Gemini架构设计,部分模型结构永久嵌入硬件,减少计算步骤并加速响应。
Frozen v2的名称源于AI模型中的冻结参数概念,即锁定数值使其不再变化。该芯片将部分模型结构永久固化到芯片中,从而减少计算步骤并提升响应速度。原始创意来自谷歌DeepMind首席科学家Jeff Dean,他最初的Frozen设计是将模型权重直接嵌入芯片,但因仅支持单一Gemini版本且易过时而被放弃。
Frozen v2采用更灵活的方式,嵌入模型架构而非权重,即底层蓝图而非调优参数。新权重仍可加载到芯片上。据The Information报道,具体有多少架构将被硬编码尚未确定。由于该芯片仅适用于谷歌保持相同模型架构的情况,因此不太可能对外销售。
谷歌已向Meta租用TPU,并向外部云客户提供,通过TPU@Premises项目作为Nvidia的替代方案,内部目标是占据Nvidia年收入的10%。Frozen v2则旨在缓解谷歌内部AI计算能力的紧张。如果该芯片兑现承诺,它可能成为谷歌在AI业务中的重大竞争优势。
在AI业务中,优化推理成本的能力越来越决定利润率。谷歌可以利用Frozen v2以更低价格运行强大模型,从OpenAI和Anthropic手中夺取市场份额。该芯片的部署将显著降低谷歌的AI推理成本,为其在AI市场提供价格优势。
要点
- 谷歌Frozen v2芯片将Gemini架构直接固化到硅片中,推理效率比TPU提升6到10倍
- 芯片计划2028年部署,主要服务谷歌内部AI计算需求,不会对外销售
- Frozen v2嵌入模型架构而非权重,新权重仍可加载,比原始设计更灵活
- 该芯片有望大幅降低谷歌AI推理成本,帮助其在AI市场获得价格优势
- 原始创意来自Jeff Dean,最初设计因仅支持单一Gemini版本而被放弃
原始标题:Google's "Frozen v2" chip reportedly bakes Gemini's architecture directly into silicon for efficiency gains
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。