AGI的「拼凑」未来：多Agent协作下的超级智能挑战

当业界聚焦GPT-5是否将成为超级AI时，DeepMind泼了冷水：真正的AGI可能已在眼前悄然「拼凑」——通过成百上千个普通AI Agent的协作。更令人担忧的是，我们对此几乎毫无准备。

2025年12月18日，Google DeepMind在arXiv发表了一篇重磅论文《Distributional AGI Safety》。论文提出了一个颠覆性观点：我们可能一直在为错误的敌人做准备。

从RLHF（人类反馈强化学习）到Constitutional AI (Anthropic的宪法AI)，几乎所有AI安全研究都在假设AGI会是一个单一的、无比强大的超级模型。但DeepMind说：你们可能看错方向了。

AGI或许不会以「超级大脑」的形式出现，而是通过多个「次级AI」的协作，像拼图一样组合而成。论文将这种形式称为「Patchwork AGI」（拼凑型AGI）。

这不是科幻设想。论文指出，实现这一场景的技术基础已经就绪：AI Agent正在快速部署，Agent间通信协议正在标准化，而且经济激励正在推动专业化Agent生态的爆发。

论文警告：「随着具备工具使用和协调能力的先进AI Agent快速部署，这已是紧迫的安全考量。」

问题的核心在于：当前所有AI安全框架都无法应对这种分布式智能涌现的风险。

为什么AGI会以「拼凑」形式出现？三个不得不信的理由

DeepMind团队给出了三个关键论据，每一个都直指现实。

第一，AI能力就是「拼拼凑凑」的

论文观察到一个奇怪现象：没有任何单一模型能够在所有任务上都表现出色。更诡异的是，同一个模型可以解决博士级难题，却在简单任务上犯低级错误。

第二，经济学不允许「全能选手」存在

这是论文最有说服力的论据。一个前沿超级模型对于绝大多数任务来说都太贵了。企业会选择便宜模型。即使前沿模型价格暴跌，定制化的专业模型仍会在性价比上保持优势。

第三，Agent之间的「高速公路」已经修好了

Anthropic的MCP协议、各种Agent间通信标准正在被广泛采用。这些协议就像互联网的TCP/IP，是分布式智能涌现的关键基础设施。

一个真实场景：金融分析是怎么被「众包」给AI的

任务是生成一份专业金融分析报告。没有任何单个Agent能独立完成，但多个Agent协作可以。

编排Agent A负责分解任务 → 搜索Agent B找市场新闻和财报 → 解析Agent C从PDF中提取数据 → 代码Agent D执行趋势分析 → 综合Agent A整合成报告

DeepMind的解决方案：给AI建一个「受监管的市场」

面对这一风险，DeepMind提出了一个系统性框架：基于虚拟Agent沙盒经济体的纵深防御模型。

第一层防御：让AI在「鱼缸」里活动，但鱼缸有门

隔离但不完全隔离

Agent市场必须与开放互联网和关键基础设施隔离。Agent访问外部数据必须通过审核过的API网关。

第二层防御：进入市场前的「安检」

这一层确保每个进入市场的Agent都满足最低安全标准。

第三层防御：实时监控，抓住「智能涌现」的信号

Proto-AGI签名检测：找到「智能核心」

第四层防御：法律和监管，让AI对人类社会负责

法律责任：借鉴公司法

论文的坦诚时刻：这些都还没实现

为什么这篇论文值得关注

一场静悄悄的范式转变