谷歌(GOOGL.O)于周三推出了新一代AI芯片,谷歌并首次将产品线分为训练和推理两个重点方向。分拆

其张量处理单元(TPU)正在成为英伟达(NVDA.O)芯片的芯片训练主要竞争对手,后者仍主导AI算力市场。战略Anthropic和苹果(AAPL.O)是聚焦TPU的重要应用客户。

随着AI竞争重心向推理转移,推理挑战谷歌对其产品布局也进行了相应调整。英伟

谷歌的谷歌新款TPU 8t专注于训练大型AI模型,而TPU 8i则针对推理场景,分拆两款芯片预计将在今年晚些时候发布。芯片训练

AI重点转移:推理成为核心

此次产品拆分反映了行业内的战略重要转变。随着模型质量提升,聚焦AI的推理挑战关注点已经从模型本身转向能够应用这些模型的智能体和应用,后者对算力的英伟需求更为迫切。这意味着AI的谷歌经济重心已移至推理层。

英伟达也在为推理需求高涨做好准备。去年底,该公司与推理芯片制造商Groq达成了一项200亿美元的授权协议,并推出了一款新的推理专用芯片。

谷歌指出,其新芯片在性能上较去年推出的Ironwood TPU有了显著进步,尤其是8i推理芯片在高带宽内存(HBM)方面有了大幅提升,解决了“内存墙”问题,这对智能体运行至关重要。

从回答问题到执行行动

谷歌云CEO托马斯·库里安(Thomas Kurian)称这两款新芯片的推出是“自然演进”。

库里安强调,这些芯片在设计上关注功耗效率,认为随着训练和推理规模的扩大,能效将成为关键约束。

这也反映了谷歌对智能体能够催生AI下一个重大突破的信心。

谷歌基础设施负责人阿明·瓦赫达特(Amin Vahdat)与马克·洛迈耶(Mark Lohmeyer)在博客中表示,“AI正从回答问题转变为进行推理和执行行动”。

谷歌、亚马逊(AMZN.O)和微软(MSFT.O)正在积极研发自有芯片,以减少对英伟达的依赖,尽管它们仍依赖英伟达的芯片进行模型训练和数据中心服务。

谷歌持续使用TPU训练Gemini模型,并通过谷歌云向客户提供英伟达芯片的使用。谷歌计划在今年晚些时候向客户提供对英伟达下一代Vera Rubin GPU的访问。

谷歌在自研芯片领域已投入逾十年,并在近期显著增加了资源投入,吸引更多客户。例如,其已开放对PyTorch等工具的支持,以降低企业使用TPU的门槛。

这可能使谷歌逐步削弱英伟达的市场主导地位,同时提升自身的业绩。摩根士丹利(MS.N)在一份报告中提到,若TPU芯片销量到2027年达到50万颗,预计将为谷歌带来约130亿美元的收入增长。