AI大模型安全漏洞频现，隐私泄露风险激增

近期，国内首次对AI大模型进行了实网众测，结果揭示了令人担忧的安全状况：此次测试共发现281个安全漏洞，其中177个为大模型特有，占比超过六成。这些数据表明，AI正面临超越传统安全范畴的新型威胁。

如今，许多人将大模型视为“超级搜索引擎”，向其提出各种疑问。然而，这种无防备的信任可能正悄悄打开隐私泄露的大门……

国产大模型漏洞相对较少

你是否习惯于将AI视为“全能顾问”，询问健康、情感、决策等问题？OpenAI联合杜克大学、哈佛大学在9月16日发布的最新研究显示，截至今年7月，ChatGPT的周活跃用户已超过7亿，发送信息量高达180亿条。其中近一半属于“询问”类，是最主流的使用方式。

“这正是隐私泄露的‘重灾区’。”安全专家、网络尖刀创始人曲子龙对《IT时报》记者表示，许多用户向AI咨询疾病、情感、财务等高度私密的问题，却未养成定期清理聊天记录的习惯。一旦模型或服务器被攻破，这些敏感数据极易泄露。

上述漏洞众测活动还揭示了五大典型漏洞风险：一是部分产品存在严重的不当输出类漏洞；二是信息泄露类漏洞频发，存在较大安全隐患；三是提示注入类漏洞普遍，是大模型最常见的漏洞风险；四是部分大模型产品对无限制消耗类攻击的防护措施不足；五是传统安全漏洞依然普遍存在，危害不容忽视。

曲子龙强调，大模型漏洞带来的影响不像传统系统漏洞那样直观，更多是通过绕过提示词，获取超出法律或道德边界的信息。例如早期曾出现过模型泄露内部配置文件的情况，这种漏洞直接触及服务器信息；而后续常见的风险则是用户尝试让模型生成违法内容，比如破解码等。

“提示注入的本质，是通过提示词影响模型的内部数据或文件，这类攻击风险普遍存在。”曲子龙补充道，至于传统安全问题，他打了个比方：“比如攻击者利用死循环，让模型无限制消耗token。”

鉴于AI大模型产品普遍用户量大、使用率高，若上述漏洞被恶意攻击者利用，将对国内AI大模型产品生态造成严重影响。

参与测试的主流大模型产品中，腾讯公司混元大模型、百度公司文心一言、阿里巴巴通义App、智谱清言等被发现的漏洞风险较少，体现了较高的安全防护水平。

曲子龙进一步分析，大模型安全问题的本质与互联网发展早期类似。移动互联网兴起时，App数量激增，漏洞也随之成倍出现。目前能自主研发大模型的厂商数量有限，漏洞总量看似不多，但随着用户规模和应用范围的扩大，攻击面也会随之迅速变大。

图源：pexels

本地化部署并不等同于安全

2025年全国两会期间，全国政协委员、奇安信董事长齐向东发出警告：近九成本地部署DeepSeek的服务器处于“裸奔”状态。这一事件引发了行业对AI安全危机的广泛关注。

今年春节后不久，DeepSeek遭到有组织的网络攻击。这次“职业黑客”的攻击规模之大、烈度之强，让中国安全界“群起而攻之”，中国电信安全团队也深度参与了DeepSeek的安全防护工作。今年3月，攻击DeepSeek的同一组织还将马斯克旗下的社交媒体X攻击至三次瘫痪。

大模型的安全问题究竟有哪些共性？

根据中国电信“广目”测绘平台对全球大模型部署的实时感知显示，国内部署最广泛的模型是DeepSeek-R1，而国外部署最多的开源大模型是Llama 3。这两个模型都面临类似的安全风险，如“越狱”攻击、大模型推理框架存在安全漏洞等。

中国电信安全团队曾对国内六款最热门的基础大模型进行了完整扫描，结果发现最高分只有77分，有的则低于60分。天翼安全科技有限公司总经理刘紫千表示，这说明国内的基础大模型在安全方面还有很大的提升空间。

值得注意的是，本地化部署并不等同于安全。一旦服务器被攻击，存储在私有服务器上的隐私信息和商业机密就有可能被窃取。

智能体成为新的安全挑战

随着大模型的发展，人工智能正在从“Chat”向“Agent”转变。智能体带来的风险可能比大模型本身更复杂。

9月16日，在2025年国家网络安全宣传周上，中国电信携手公安部第三研究所、华为公司、《信息安全研究》杂志社、蚂蚁集团、清华大学、上海交通大学等多家合作伙伴,发布了业内首部《AI智能体安全治理》白皮书。

<白皮书》指出，与大语言模型相比，AI智能体不仅延续了模型与数据层面常见的安全风险，如“越狱”攻击、对抗样本攻击、提示注入、数据“投毒”等。还因其具备多模态感知、自主规划与执行等特性而衍生出一系列独特的系统性风险。这些风险往往与具体应用场景深度耦合并可能在执行链条中被放大带来更加严重的安全隐患主要体现在以下几个方面：

感知出错：智能体依赖各种传感器“看世界”，但如果有人故意干扰它可能会将假象当作真实并做出危险反应。

决策失误：智能体能自主做决定一旦推理出错错误会被放大在自动驾驶、金融、医疗等领域可能造成严重事故。

记忆被污染：智能体会“记住”用户交互如果有人故意输入错误信息智能体会反复调用这些错误信息例如篡改智能体记忆中的身份信息可能导致后续任务出现越权操作或隐私泄露。

工具被滥用：智能体常接入各种插件和外部系统如果缺乏安全控制这些接口可能成为黑客攻击的入口。

今年以来国家市场监督管理总局在多模态大模型、智能体、具身智能等前沿方向以及其他传统行业应用方面新发布了10项国标立项了48项技术文件。尽管如此随着大数据、人工智能、物联网等的快速发展当前仍迫切需要通过标准化建设减少数字技术发展带来的风险和不确定性。

在AI时代到来之际在尽情提问与探索之前或许我们都该先问自己：“我的数据真的安全吗？”