AI落地关键：安全成为前置条件

AI是否真正大规模进入核心业务，关键在于系统能否在出现问题时及时停下，过程能否追溯，责任能否界定。在这些问题解决之前，安全是AI落地过程中最现实、也最难绕开的门槛。

一旦攻击被AI变成一种“产能”，攻防关系将面临结构性失衡。

这种变化已经在现实中显现。例如，快手在12月22日22时遭遇大规模黑灰产攻击，峰值时段约有1.7万个被控僵尸账号同步开播推送低俗内容。这并非孤立事件，OECD的AI事件监测数据显示，2024年的AI风险事件总数约是2022年的21.8倍。

在这种背景下，安全的逻辑正在被迫重写。

过去，企业在选择大模型或Agent服务商时，性能、价格、生态几乎天然排在最前面，安全更多被视为一种事后补救能力。但在实战之后，越来越多企业开始意识到，一旦将业务流程、用户触点乃至决策权交给AI，安全就必须前置到选型阶段。

这种微妙的反转，正在倒逼企业重新排序与AI相关的所有决策优先级。一组来自阿里云与Omdia联合发布的AI安全报告显示，企业将安全与数据隐私视为AI主要障碍的比例，从2023年11%激增至2024年43%。

安全，第一次从“可选项”变成了AI能否落地的前置条件。

从探索到深水区，AI安全成为落地前提

进入2025年，AI已从技术探索阶段迈入企业业务的深度应用场景。麦肯锡《The state of AI in 2025》报告显示，88%的受访企业表示已在至少一个业务职能中使用AI技术。

随着AI使用范围和能力的迁移，企业对安全的敏感度正在迅速放大。早期AI应用多停留在辅助性场景，但随着AI加速落地，其开始被赋予更强的权限。

Gartner预测，到2028年33%的企业软件将包含AI代理功能，可自主完成15%的人类日常工作决策。这意味着权限扩张带来的风险敞口持续扩大。

在这种背景下，AI一旦失控，就不再是一个输出错误那么简单。据HarmonicSecurity分析显示，在2025年二季度，企业使用的各类GenAI平台中，超过4%的对话、20%以上的上传文件都包含敏感企业数据。

也正因为如此，安全不再是可有可无的选项。根据赛博研究院发布的《2025全球可信AI治理与数据安全报告》显示，模型准确性与稳定性最受企业看重，其次是数据使用的合规性与隐私保护。

安全“前移”AI选型，正在改变安全竞争格局

在2025年，国内首次进行了AI大模型实网众测，发现了281个安全漏洞。这意味着传统安全厂商的策略已无法应对AI时代的新攻击手段。

随着AI技术的普及改变了网络攻击的底层逻辑。

传统安全厂商的策略调整并非推倒重来，而是将AI视为能力增强器。

以360为例，其在2023年发布“AI原生安全大模型”，用于APT攻击检测等。与传统厂商不同，阿里云、腾讯云等云服务商选择从基础设施与平台层入手，将安全能力内建到AI的全生命周期中。

AI安全的能力边界：无法“清零”，只能“控损”

当安全被推到AI选型的前台，一个绕不开的问题是：安全是不是越强越好？是否存在足够安全？

答案并不乐观。OpenAI研究判断：在AI浏览器、Agent等场景中，提示注入属于结构性风险。即便持续加固，安全系统也无法做到100%拦截。

企业认知转变带来三种明显的使用方式变化：

• 第一种转向：从“能跑”到“能控”。企业开始限制模型可触达的数据范围。
• 第二种转向：从“可用”到“可审”。随着AI纳入正式生产环境，是否具备审计与留痕能力成为关键门槛。
• 第三种转向：从“自动化”到“半自动化”。在核心业务场景中，企业采用“建议+人审+执行隔离”的模式。

写在最后：

可以预见，在相当长的一段时间里，AI安全都不可能靠一次性方案彻底解决。

在此过程中，企业对AI的使用将持续分化。对安全产业来说，这也是一轮长期调整。单纯依赖事后检测的价值将持续下降，能够参与系统设计、权限治理和运行约束的能力将变得越来越关键。