AI智能体治理的变革与框架重构：从身份认定到信任机制

当前，AI代理治理领域实际上涵盖了两个既独立又相互关联的挑战：一是AI Agent自身的治理问题，二是无障碍权限这一特殊权限的管理问题。将这两个议题混合讨论，往往使问题复杂化，难以得出清晰结论。然而，一旦厘清AI Agent的治理框架，无障碍权限的管理问题也将迎刃而解。

一、AI代理技术带来的根本性变革

在技术领域，“智能体”这一术语比“代理”更常用，因为它弱化了法律含义，更准确地反映了技术本质。智能体的出现，从根本上改变了信息系统的构建逻辑。

传统的信息系统构建方式是基于业务流程设计的，但在开放和不确定环境中，这种方式显得力不从心。相比之下，人类通过组织角色来应对复杂任务，例如城市治理或军事行动中，团队组建、角色定义和职能明确是关键。这意味着人类以组织为中心解决复杂问题，组织的构建优先于功能实现和流程设计，这种模式有利于发挥个体能动性，适应开放多变环境。

AI智能体像人类一样具有灵活应对环境的能力，使其越来越像具有特定角色和职能的“人”，人机协作因此变得更加自然。这标志着传统信息系统构建方式正在发生根本性变革：人类对信息系统的干预方式不再遵循传统逻辑，而是像与员工交互一样，只需给出指令、接收反馈并调整，交互方式如同人与人之间的交流。

如果我们承认智能体在技术系统中扮演类似“人的角色”，发挥类似“人的作用”，那么对其管理就应该采用类似“人的管理方式”。

但当前问题是，我们并未将智能体视为“独立的行为主体”进行管理，而是仍从“行为规则”角度约束，这种治理逻辑可能已不适应新型AI代理的发展需求。

二、治理框架的重构：从身份认定到数据通路

1、独立身份认定的重要性

目前互联网上由智能体产生的流量已接近甚至超过真实用户流量。根据泰雷兹（Thales）发布的《2024恶意机器人报告》，2023年近一半（49.6%）的网络流量来自智能机器。这表明，大量“幽灵”智能体在不断交互并产生数据，成为技术和人类系统的重要组成部分。

智能体已从工具性存在演变为具有系统影响力的主动参与者。这些“智能体参与者”如同秘书，以人类名义行事，但其行为不完全受人类控制。因此，我们真正需要治理的是这些新的行为主体，而非具体行为。

治理智能体的第一步是建立独立的身份认定体系，就像管理员工一样，需要为其赋予独立的身份标识。当前智能体使用人类的数据通路进行交互，通过用户界面操作，这导致机器用户和自然人用户共享相同的数据通路，存在明显问题。

2、专用数据通路的建设

技术领域出现的MCP协议代表了一个重要方向。当网站主动为智能体提供专用接口时，数据交互效率将大幅提升，网站负担也会减轻。这种通过数据接口的交互方式，意味着真正区分两类用户：为自然人提供UI界面，为智能体提供MCP接口。

同样，在单机环境下，通过无障碍权限为智能体提供数据通路的做法存在安全隐患。更好的解决方案是建立独立的数据通路，不依赖用户界面，通过专门的服务体系加入更有效的管控措施。

三、信任机制构建与市场化治理路径

1、信任是问题和答案的核心

所有关于智能体技术和法律风险的讨论，本质上都源于“信任”问题。传统模式下系统完全听从用户指挥，而智能体具有自主理解和行为逻辑，这需要重建用户与技术系统之间的信任关系。

从技术角度，我们强调“可信赖性”，即技术系统的行为要符合各方预期，这需要重新定义“预期体系”。在智能体监管中，“用户授权”作为一种静态表述，可能已不足以应对复杂场景，且授权后缺乏技术手段确保智能体“如约执行”，削弱了信任关系。

2、市场化治理的优势

当智能体成为可识别的行为主体时，可以通过市场化手段建立治理机制，避免强监管。随着使用规模扩大，智能体能够形成声誉体系，用户选择可以筛选优劣。

3、渐进式、动态的治理策略

从现实出发，现阶段很难对所有智能体制定全面规则。因此，当前最重要的是建立一个适应技术变革的治理框架，细节可逐步完善，核心是合理配置各方权责，营造共赢关系。

技术层面，需要通过动态的数字合约配合使用控制建立技术信任；制度层面，需要建立身份确认、协议管理等机制；治理层面，要完善争议解决和证据保全制度。这些措施应形成有机整体，共同保障治理效果。

四、总结与反思

在技术快速变化的环境中，过于细致的规则制定既不现实也不必要。更可行的思路是建立一个基础框架，让各方形成良性互动，推动技术健康发展。

重点是安排各相关方的角色定位，发挥主观能动性，让市场机制在治理中起更大作用。这种思路既能保持创新活力，又能通过制度设计防范风险，更适应当前技术发展阶段。关键是在保障安全的前提下，为技术创新留出空间。

【本文基于王钺在“侵入式AI的风险与治理”研讨会上的发言内容整理。】

【免责声明】本文撰写所需的信息采集自合法公开的渠道，我们无法对信息的真实性、完整性和准确性提供任何形式的保证。本文仅为分享、交流信息之目的，不构成对任何企业、组织和个人的决策依据。