Scaling Law的变革：从瓶颈到多阶段增长

在AI领域，关于“Scaling Law”的讨论已经持续了一年多。从Gary Marcus的批评到OpenAI下一代模型“Orion”的进展不顺，再到GPT-5的发布，AI的进步似乎遇到了瓶颈。然而，Gemini 3的发布打破了这一预期，展现了前所未有的提升。

Gemini 3不仅在能力、推理、速度、成本和生态上全面超越了OpenAI，而且并未依赖全新的架构。Google表示，突破源于预训练和后训练两个阶段的配方升级。尽管具体细节尚未公开，但Google愿意公开承认“预训练仍有改进空间”，这本身就是一个重要信号：无论是预训练还是后训练，Scaling的两条主线都还未到达极限。

大模型训练逐渐变成“重资产游戏”。Gemini联合负责人Oriol Vinyals指出，2.5到3.0之间的性能跃迁是他们见过最大的一次，“看不到任何墙”。

与此同时，马斯克的xAI宣布其超算集群Colossus已扩展到20万块GPU，目标是100万块。OpenAI、Anthropic、微软也在投入数千亿美元扩建数据中心。这些举动背后，他们究竟在赌什么？

墙不存在

Gemini 3证明了算法改进与更好算力的结合下，预训练Scaling依然有效。前DeepMind的研究科学家Oriol Vinyals将Gemini 3的提升归功于预训练和后训练的双重改进，而非全新的方法论。换句话说，不是Scaling不行了，而是之前的方法还不够好。

黄仁勋提出了一个更系统的框架：现在有三条Scaling曲线同时作用，包括预训练Scaling、后训练Scaling以及推理时Scaling。传统的预训练Scaling是通过更多数据和算力训练更大的模型；后训练Scaling则通过RLHF、DPO等技术进行训练后优化；推理时Scaling则让模型在回答问题时花更多时间“思考”。

Sam Altman在2025年初的博客中更直白地指出，模型的智能水平大致等于用于训练和运行它的资源的对数。这听起来像坏消息，但反过来理解，只要你持续投入，模型就会持续变好。

Google DeepMind的CEO Demis Hassabis态度同样明确。他在公开活动中表示，现有系统的扩展必须推到极限，因为它将是最终AGI系统的关键组成部分。

如果Scaling Law真的撞墙了，你很难解释为什么整个行业还在以前所未有的速度投入资金。这些人在赌什么？即使算力用于推理而非训练，这种规模的投入也需要模型能力的持续提升来支撑。

他们吵的不是同一件事

仔细听各方的表态，会发现一个有意思的现象：大家嘴里说的Scaling Law可能根本不是同一个东西。

传统意义上的Scaling Law很简单：更多数据、更大模型、更多算力等于更强性能。这是OpenAI在2020年确立的范式，也是过去几年大模型竞赛的底层逻辑。如果你说的是这条曲线，那确实在放缓。

但现在行业里讨论的Scaling早已超越了这一维度。黄仁勋提出的三阶段框架就是一个例子。预训练是获取广泛基础知识，后训练是特定领域深造，测试时计算是思考后回答。

IBM的一档播客Mixture of Experts也提出了一个观点：我们是否应该称之为Scaling Experimentation Law？他们的意思是，算力增加的真正作用不是直接转化成智能，而是让研究人员更快地跑实验、试错和迭代。

各方立场

说到立场和利益，这场争论里每个人的位置都很清楚。

英伟达是最明显的受益者。无论Scaling Law怎么演变，都需要GPU。对他来说，三条曲线变成一条还是十条没什么区别。只要大家还在Scaling，他就是卖铲子的那个人。

OpenAI、Google、Anthropic等模型公司也在建造或规划数据中心，投资规模达百亿甚至千亿美元级别。这些钱已经花出去了或已承诺。这时说Scaling Law失效相当于做了一笔糟糕的投资。

DeepSeek的一句话

中国AI公司DeepSeek是这场争论中的特殊存在。

过去一年，DeepSeek靠着极高的算力利用效率用远低于硅谷同行的成本做出了能打的模型。这一度被解读为Scaling Law的反例。

但这可能是一个误读。DeepSeek真正证明的是架构优化和工程能力可以让你在同样的算力预算下获得更好的结果。

Scaling Law死了，Scaling Law万岁

回到最初的问题，Scaling Law到底死没死？

从目前的证据来看，答案是没有。Gemini 3的表现、各家公司的持续投入和技术演进的方向都指向同一个结论：Scaling仍然有效，只是方式变了。

过去那种简单粗暴的配方确实遇到了瓶颈。但Scaling的内涵正在变化：预训练、后训练、测试时计算三个阶段都有各自的增长曲线。算力的价值也从直接转化成智能变成了加速实验和迭代的基础设施。

对头部厂商而言，Scaling不仅是技术问题更是资产负债表问题。已经宣布和在建的数据中心项目将持续压在头上要求模型能力不断提高来消化这些投入。