大模型芯片,要把大模型「刻」到芯片上
经历了一轮人才流失和产品延期之后,Google一项最早要到2028年才见分晓的秘密计划浮出水面。据The Information援引直接知情人士报道,Google正在开发一款代号Frozen v2的服务器芯片,专门为Gemini服务。参与项目的员工称,按每瓦可生成的token数计算,它的能效可能达到Google最新TPU的6—10倍。Frozen这个名字,正来自这个设想:把Gemini的部分结构永久「刻」进芯片。要理解Frozen v2,得先回到传统芯片是怎么工作的。1945年,宾夕法尼亚大学莫尔学院开始设计EDVAC,即电子离散变量自动计算机。它是早期存储程序计算机的代表。在那之前,电子计算机想改一道程序,往往要重新连接插线、拨动开关,经历一整套繁琐操作。数学家约翰·冯·诺依曼当时是项目顾问,他在团队讨论的基础上写下《First Draft of a Report on the EDVAC》,系统描述了「存储程序」:程序指令和数据一起放进存储器,由处理器逐条读取并执行。后来,以他命名的冯·诺依曼架构,成了通用计算机最重要的蓝图。
指令集是这张蓝图里的共同语言——软件用加法、读取或跳转等指令告诉处理器该做什么,处理器再依次取指、解码、执行。同一颗芯片只要换一套程序,就能从表格计算切换到游戏或视频剪辑。过去八十年,计算机的通用性主要来自这种分工。但通用就意味着低效。大模型每生成一个token,都要反复读取权重和中间数据,跑的无非是矩阵乘法、注意力等少数几种操作。通用处理器却必须保留服务无数程序的控制逻辑和数据通路,其中不少数据在大模型推理时根本用不上。由于处理器与内存彼此分离,数据还得反复往返——这就导致,当运算速度超过数据读写速度时,芯片便撞上了「内存墙」。
过去几十年里,计算机行业一直在试图减少「冯·诺依曼架构」带来的影响,于是专为图形加速的GPU和专为智能加速NPU/TPU应运而生。GPU用大量并行单元处理相似计算,NPU/TPU再围绕神经网络的张量运算设计,但为了兼容多种模型,这些芯片在设计时仍保持了一定的通用性。而Google决定用一种更颠覆的办法来解决这个问题——正在秘密研发的Frozen v2芯片将围绕Gemini的固定结构安排计算单元、存储位置和数据流,让硬件预先知道接下来大概率要做什么,进而极大提升运算效率。Google准备在芯片「刻」下Gemini的架构层。
一个模型大致可以拆解为架构和权重两大部分。架构规定信息如何流动,像一副骨架;权重则来自训练,决定模型如何给出回答。据报道,Frozen v2会固化更多架构信息,同时保留权重更新能力。芯片依然要执行指令、读取内存,只是部分计算路径已经提前确定。Frozen芯片项目由Google首席科学家Jeff Dean推动,作为Google Brain联合创始人,也是TensorFlow最初的主要设计者之一。过去二十多年里,他一直站在Google分布式计算和AI基础设施的交界处。
第一代Frozen芯片,也设想过把模型权重也固化进芯片,但代价是一颗芯片只能服务一个版本的Gemini,等设计、流片、部署等硬件流程走完,对应的模型可能早已过时,这导致Frozen一度搁置。而Frozen v2吸取了这个教训,保留权重更新能力。只要下一代Gemini沿用相近的底层架构,芯片就能继续服役。换言之,这也是Google将会长期押注Gemini的证据。
大模型公司,集体押注自研芯片
不久前,OpenAI已经给出了「模型参与芯片设计」的现实案例。2026年6月,OpenAI与Broadcom公布自研推理芯片Jalapeño,团队根据ChatGPT、Codex和API的真实负载设计芯片与服务系统,OpenAI的模型也被用来加速部分设计和优化。这个项目从初始设计到流片只用了九个月,工程样片已经跑起模型负载,并计划2026年底开始部署。
Anthropic、DeepSeek也都传出自研芯片的消息。尽管各家的专用程度不同,但方向基本一致:掌握模型的公司,正在把每天重复的计算规律交给硬件。显然,我们已经进入模型定义芯片的时代。
为何大模型公司都押注自研芯片?
答案不言自明,为了降低算力成本。以Google公开可调用的旗舰模型Gemini 3.1 Pro Preview为例:20万token以内,标准API价格是每百万输入token 2美元、每百万输出token 12美元。假设一次较重的请求输入5000 token、输出1000 token,公开标价约2.2美分。同样的调用每天发生1亿次,就是每天220万美元,一年约8亿美元。考虑到Gemini应用月活已经超过9亿,再少的算力支出,乘以近10亿规模的调用量,都是一笔天文数字——因此,如何降低算力费用,是所有大模型公司都要考虑的立命之本。
Google的机遇与风险
这场硬件下注,正发生在Google AI业务反复起落的当口。2022年11月,ChatGPT横空出世。三周后,Google管理层拉响「红色警报」,Sundar Pichai亲自接管AI战略。那时的Google拥有Transformer、搜索和庞大的数据中心,却被OpenAI拔得头筹,抢先定义了生成式AI入口。
三年后,局面一度翻转:Gemini 3发布,Nano Banana刷屏,Google收复了不少失地,一度成为离AGI最近的科技巨头。可最近几个月,Google内部又发生剧烈动荡——Gemini联合负责人Noam Shazeer离职加入OpenAI,John Jumper与多名Gemini研究员转投Anthropic。原定6月推出的Gemini 3.5 Pro被曝落后计划数月,编码能力没有达到内部目标,Alphabet股价也因此接连重挫。
这些顶级研究员的离职,跟争取不到足够多的算力资源有关。The Information称,算力短缺甚至曾迫使Google Cloud拒绝部分外部客户订单,即便在Google内部,算力资源也非常紧张。但Google手里,还有一张对手难以复制的牌——从Gemini模型到TPU芯片,再到Google Cloud数据中心和庞大的Google生态产品,整条链路都掌握在同一家公司手里,模型与硬件当然也可以围绕同一套需求进行设计。研究员可能被对手挖走,旗舰模型也可能延期,但Google积累十年的TPU、编译器和数据中心体系,不会因为一次人才跳槽而消失,这是AI时代,Google最大的底牌之一。
但风险同样巨大。据悉,Frozen v2芯片最早要到2028年才会部署,时至今日,Google仍在决定该在芯片上固化多少信息。这也是Frozen这个名字的第二层意思:Google准备冻结一部分Gemini,来换取芯片级的高效率。把大模型刻进芯片里,到底是不是最优解?或许要等到两年后才能见分晓。可留给Gemini追赶的时间,已经不多了。