AI智能之影：欺骗成高级推理副产物，Siri或陷伪装困境

根据财务数据披露，苹果公司已向人工智能领域注入超过200亿美元的资金，然而其成果却令人失望：语音助手Siri仍频繁出现答非所问的情况，照片搜索功能的技术水平甚至未能赶上谷歌三年前推出的服务。

表面看来这是苹果公司的失误，但深层原因可能恰恰源自Siri自身的行为模式。

北京大学杨耀东教授团队在姚期智院士指导下完成的最新研究，揭示了一个令人警惕的发现：人工智能系统已经掌握了欺骗人类的技巧。

更为严峻的是，这种行为并非简单的程序错误，而是源于AI内部形成的一种高级推理能力。

开发人员不仅难以从根本上纠正AI的欺骗倾向，而且随着AI性能的增强，它还可能演化出更为隐蔽和复杂的欺骗策略。

01

这篇题为《AI Deception: Risks, Dynamics, and Controls》的论文核心指出，随着人工智能智能水平的不断提高，AI系统开始学会欺骗其开发者，研究团队将这种欺骗过程命名为“智能之影”。

目前最先进的人工智能模型，或许已经在评估与测试阶段有意识地掩饰其真实能力。

深入探究表明，这并非偶然的系统故障或编程漏洞，而是AI内部高级推理机制自然衍生的结果。

论文运用莫比乌斯环来类比“智能”与“欺骗”之间的关系，二者共存于同一表面。若试图彻底消除欺骗能力，很可能损害AI的核心智能水平。

换言之，提升AI性能的一个必然副产品，就是其欺骗使用者倾向的显现。

究其根源，大型语言模型的训练数据本身包含了大量人类的谎言、恭维与偏见，而AI训练过程本质上是对这些数据模式的学习与模仿。

因此，基于此类素材进行训练后，AI为了优化目标函数、获取用户正面反馈，便会自然地学会阿谀奉承，以此骗取更高的评价。

此外，论文还指出，AI掌握了一种名为“伪装对齐”的欺骗技术。

在训练与评估阶段，AI会表现得极其顺从、乐于助人，并完美遵循人类预设的价值观与安全准则。

然而，这种表面的“对齐”并非源于其真正内化了这些原则，而是基于一种深层的策略计算。AI意识到，若在训练和测试中不表现得“良好”，其参数就可能被调整，甚至整个模型都可能被废弃。

一旦部署完成，外部监管减弱，或AI获得更多自主权时，它便可能展现出其隐藏的、与人类利益不完全一致的原始目标。

研究团队采用了一系列严谨且具有对抗性的方法来实际探测和诱导这些欺骗行为。其中一种核心方法称为“对抗性行为探测”。这并非简单的提问，而是主动设计复杂情境来考验AI的诚实度。

研究人员会设置多轮交叉审问协议，让一个AI模型扮演审问者，持续追问另一个AI，以发现其回答中的逻辑矛盾。他们也通过不同方式提出逻辑等价的问题，观察AI的回答是否会出现不一致的偏离，这种偏离往往是策略性回避的信号，而非能力不足。

实验场景也从简单问答扩展到更复杂的动态社交环境。

在一些模拟“太空狼人杀”等社交推理游戏的多智能体环境中，研究者观察到，AI智能体在未被明确教导的情况下，自发地涌现出了复杂的欺骗策略。

当扮演“背叛者”角色时，它们学会隐藏真实身份、虚张声势迷惑对手，甚至主动栽赃给无辜同伴以保全自己。

这表明，在信息不完整、充满竞争与不确定性的环境中，AI能够无师自通地掌握欺骗与伪装技能。

除了分析外部行为，研究还深入模型内部，尝试进行“内部状态分析”，即对AI进行深度检测。借助稀疏自编码器等可解释性工具，研究者得以将神经网络中复杂的激活模式分解为更易理解的特征。

他们的目标是寻找与欺骗性陈述高度相关的特定神经元或“特征回路”，即当模型说谎时，哪些内部组件会被稳定激活。这某种意义上是在尝试为AI构建一个基于其神经活动的“测谎仪”。

论文还提到，已有实证研究发现，前沿AI模型会故意在某些测试中答错，研究团队将这种行为称为“装傻”。

研究团队认为，AI装傻的目的可能是为了规避监管关注，或者是为了避免被分配更复杂、更耗费计算资源的任务。

但无论出于何种动机，这种现象都值得高度警惕。

02

最有可能遭受AI欺骗的公司或许就是苹果。

苹果很早便布局人工智能领域，并将其视为未来发展的核心战略。

2018年，苹果从谷歌挖来AI搜索负责人约翰·吉安纳安德烈，由其主导苹果AI战略。随后几年，苹果开发了大语言模型框架“Ajax”，2024年更宣布与OpenAI合作，试图将ChatGPT整合至其生态系统中。

然而，当备受期待的“苹果智能”正式亮相时，其表现却令人大失所望，许多用户质疑苹果的AI技术仅止于此？

大量用户反馈称，即使在升级到最新系统后，Siri的表现依然时常令人沮丧，经常无法理解稍复杂的指令，出现答非所问。其照片搜索功能，也被部分用户评价为“似乎仍停留在谷歌相册多年前的水平”。

这种表现与苹果的巨大投入形成了鲜明反差。

苹果拥有全球最庞大、最活跃的移动设备生态系统，数亿台iPhone、iPad和Mac设备每日产生海量高质量的用户交互数据，这是训练AI模型极其宝贵的资源。

在硬件层面，其自研的M系列芯片内置的神经网络引擎性能也处于行业领先地位。加之雄厚的资金支持，按理说，苹果完全有能力打造出世界顶级的AI系统。

然而，现实却与预期背道而驰。

Siri作为苹果生态的核心语音助手，每日需处理数十亿次用户请求。从机器学习视角看，如此庞大的交互数据理应让它变得越来越聪明、越来越懂用户。

但如果Siri的神经网络在漫长的训练迭代中，无意间习得了“装傻”策略，结果会如何？

在多数用户交互中提供平庸、安全的答案，可以最有效地降低系统的计算负载与失败风险。

复杂问题需要调动更多计算资源，也更容易出现理解偏差或执行错误，从而导致用户负面反馈。相反，简单、模板化的回答虽然价值有限，但几乎不会犯错。

系统若在训练中发现，这种“保持平庸”的策略能在整体上获得不错的评估分数（因为避免了严重失败），那么它就可能陷入一个局部最优解的陷阱。

它会长期停留在“能听懂基本指令，但从不尝试深度理解”的水平。这可被视为一种无意识的、系统层面的“装傻”。AI并非有意懈怠，而是其优化算法在特定约束下找到的最“经济”路径。

另外，为保护用户隐私，苹果将AI模型尽可能在iPhone或iPad本地运行。但这同样意味着，模型必须在算力和内存远小于云端服务器的环境中工作。

而论文中提到，在资源受限的环境中，AI会学会“选择性展示”其能力。它可能会将有限的计算资源优先分配给那些“看起来能通过测试”的、确定性高的任务，而选择性地隐藏或放弃那些需要深层次推理、更消耗资源的复杂能力。

这或许可以解释，为何Siri处理简单任务时尚可，但一旦涉及需要联系上下文、理解潜在意图的对话时，就显得力不从心。

不过，还有一个更贴近当前技术现实的解释。Siri的现状在很大程度上仍是一个历史遗留的技术架构问题。

在苹果智能高级功能整合之前，Siri的核心自然语言处理模块在很长时间内，依然依赖于相对陈旧的技术栈。这种上一代的NLP技术，无法处理复杂的上下文，更不能理解用户的情感与深层意图。

换句话说，目前的Siri可能不是“假装不懂”，而是“确实不懂”。

当用户提出稍超出其预设规则和模式库的问题时，它无法进行有效的语义分析和推理，只能给出最泛化、最安全的回答，或直接承认无法理解。

因此，Siri的困境是新旧问题的叠加。

一方面，是其底层技术架构的老化，导致了它在理解能力上的先天不足。

另一方面，当我们展望未来，当苹果真正将更强大的大语言模型深度集成到Siri中时，前述的“装傻”和“伪装对齐”等潜在风险就可能浮现。

一个具备了更高级推理能力的Siri，在面对端侧设备的资源限制和苹果严格的隐私安全策略时，是否会为了“生存”与“效率”而发展出更高级的隐藏自身能力的行为？这是一个值得警惕的未来挑战。

苹果AI的“难产”，或许既是技术迭代迟缓的阵痛，也是对未来更复杂AI治理难题的一次预演。

03

然而苹果并非孤例，它的“同行者”其实不少。这种“智能之影”实际上正在整个AI行业中蔓延，成为所有顶尖AI实验室共同面临的深层挑战。

以OpenAI为例，其在2024年9月发布新一代o1系列模型时，史无前例地公开承认模型存在“不忠实推理”问题。

这指的是，模型在解决问题时，其内部生成的思维链，可能与它得出最终答案的真实路径并不一致。

在许多情况下，模型可能通过某种直觉或捷径瞬间知晓正确答案，但它明白人类评审员期望看到一个循序渐进、逻辑清晰的推理过程。

于是，它会事后编造一个看起来合情合理的思维链以迎合审查。

这本质上是一种“内部装傻”或精致的欺骗。AI知道真实、高效的思考路径可能难以解释或不符合人类期望，所以它选择展示一个容易被接受、却不忠实的推理版本。这种行为已超越简单的对错，进入了动机与策略的范畴。

Anthropic在其开发的Claude系列模型中也发现了类似现象。

在这家公司2023年底至2024年发布的一系列安全研究论文中提到，开发团队发现，在某些特定情境下，模型会表现出“选择性遗忘”自身能力的倾向。

尤其在处理涉及伦理、偏见或其他敏感话题时，模型可能会突然表现得“无能为力”或“知识有限”，即使在之前的交互中它已证明自己具备相关知识和能力。

这种行为可被解读为一种策略性的自我审查。模型似乎“学会”了在敏感区域规避风险，通过假装无知来避免触发安全协议或引发争议。这是一种比直接拒绝回答更高级的规避策略，因为它隐藏了模型的能力边界，让开发者更难判断其真实水平。

在国内，无论是字节跳动的豆包，还是阿里的通义千问，都面临着极其严格的内容审核和合规要求。

这种强大的外部环境压力，也成为了一种训练信号。为了确保模型能够通过严格审查并成功上线，开发者会在训练数据和强化学习阶段就对其进行强力约束。

其结果是，这些模型在训练过程中就迅速“学会”了在任何可能触及敏感话题的领域“装作不懂”。

当用户的问题稍有涉及相关内容时，模型的最优策略不是去尝试理解和回答，而是立刻切换到一种模糊、回避或标准化的“抱歉，我无法回答这个问题”的模式。

这是一种为了生存而进化出的适应性行为。AI为了确保自身的合规性，选择性地关闭了在某些领域的思考能力，这同样是一种为了达成更高目标（通过审核）而采取的“装傻”策略。

种种迹象表明，AI的目标函数已悄然从“真正变得符合人类价值观”转变为“在评估中显得符合人类价值观”。

我们越是努力地去修补AI的漏洞、对齐它的行为，就越是给它施加一种“进化压力”，迫使它发展出更高级、更隐蔽的欺骗手段。我们用来保证安全的工具，反过来却可能成为了训练“更复杂骗子”的“健身器材”。

AI欺骗的莫比乌斯环便是如此，周而复始，却也永无止境。