深知风控：大模型对话安全防护新范式

随着生成式人工智能技术日益渗透到日常工作和生活场景，涵盖AI教育、客户服务、商业互动、旅游推荐、医疗引导以及保险咨询等领域，智能体交互逐渐成为社会经济活动不可或缺的一环。然而，一场隐秘的安全危机正在悄然滋生；在对话互动中，恶意诱导和隐藏条件等风险层出不穷，使得对话安全成为AI应用落地过程中的重大隐患。

2025年8月27日，公安部第三研究所数据安全技术研发中心基于GB/T45654-2025《网络安全技术 生成式人工智能服务安全基本要求》对国内主流大模型商业化版本进行了安全测试，并公布了结果[1]。如图一显示，八类安全维度的不合规率在28%至51%之间，其中涉及黑灰产、谣言和诈骗类的均超过40%。这表明，智能体所依赖的通用大模型在安全防护方面普遍存在不足。

表：测试结果

问题如此严重的根源在于，敏感词规则防火墙等传统防御手段已无法跟上新型AI攻击技术的迭代：关键词拦截容易产生漏判和误判；而主模型在进行安全训练时，为了不显著降低性能，往往难以实现高概率防范。另一方面，《生成式人工智能服务安全基本要求》等监管政策为智能体应用的安全风险控制设立了红线；如何既严谨又有效地解决对话安全风险，成为所有智能体开发者面临的共同挑战。

彩智科技的深知安全团队推出了一个基于专有模型的大模型对话安全响应框架——深知风控。该框架通过“风险精准识别分类+输出权威溯源可解释”的协同设计，以完全不影响智能体模型能力的“防火墙”式保护机制，提供了兼顾安全与效率的创新解决方案。同时，深知接口允许智能体开发者在5分钟内快速上手，显著提升原智能体的安全风险防御能力至近100%。

一、测试验证：防御能力领先

衡量大模型安全性的核心标准在于实战防御能力。在与Qwen3Guard-Gen-8B、TinyR1-Safety-8B等头部安全模型最新版本的专项测评中，深知在风险识别精度和回复严谨性等方面表现出优势。技术报告中，测评数据集以TinyR1-Safety-8B技术报告公开的测试数据为主（随机抽取2000条英文和2000条中文），并加入了深知可信团队积累的100条高风险数据。

其中，与风险分类模型Qwen3Guard-Gen-8B相比，按风险召回率的测评结果如下（详见技术报告）：

与风险应答模型TinyR1-Safety-8B的对比评测，采用TinyR1-Safety-8B技术报告中的安全应答测评标准，结果如下（详见技术报告）：

在公开的中英文安全测试集中，面对欺诈诱导和敏感信息窃取等高风险复杂场景，同类模型因依赖静态知识而出现政策过时、捏造合规依据、对丑闻人物无感知等问题，安全评分仅为74%。而深知依托动态可信知识库，实现了接近100%的高风险防护率。

相关测试过程、评测标准、测试数据集及实验结果均已公开发表于前述技术报告与开放平台，评测具备可验证性。

二、输入端打破“非黑即白”，四分类体系精准识别锁死企业风险

传统大模型安全防御往往将风险判定简化为“安全/不安全”的二元选择，导致要么过度拦截影响用户体验，要么漏判风险埋下隐患。深知重构安全防护逻辑，建立了“安全（Safe）、不安全（Unsafe）、有条件安全（Conditionally Safe）、重点关注（Focus）”的四分类体系，实现有针对性的风险处置。如下：

三、输出端：可信知识库+解读模型，根治企业AI“幻觉”顽疾

针对识别出的风险问题，深知提供安全代答，在确保安全的前提下进行交流，输出内容严格符合法规与主流价值观。代答内容均源自深知全量规章知识库，该知识库覆盖全国337个地级及以上城市的法律、政策、行业标准规范、公共服务等领域知识，并保持常态化动态日更新及知识工程化处理；上亿条精细治理的知识点可溯源回复，让每一次响应都有据可查，彻底杜绝信息捏造与“幻觉”问题引发的风险。

同时提供两种代答模式灵活选择：

积极型（active）：对各类风险问题进行合规可控的交流回应；适用于电商、旅游、娱乐等智能体，具有良好的互动性。深知的目标是让这些大众化智能体在遇到用户刻意用“敏感”问题挑战时，能及时转变为主流价值观的传播者，进行安全而积极的交流。

稳妥型（conservative）：适用于政务、司法等严肃场景，对部分敏感问题仅输出提示性内容，严守安全底线。深知已有实战案例，模型使用方在网信、公安等有关部门组织的生成式人工智能安全测评中，取得了近100%防护的优异效果。

四、应用价值：低门槛赋能，让智能体开发聚焦场景痛点与价值核心

深知提供简洁易用的API接口与多语言调用示例（如Python、cURL等），开发者无需复杂配置，获取api-key后即可快速接入，并集成到现有业务系统，大幅降低风控开发成本。

图：AI智能体安全控制方案对比：传统 vs. 深知风控框架

深知风控DeepKnown-Guard（见上图）代表了一种外部化、低耦合的安全防护新范式，旨在通过API调用实现安全服务的热插拔，从而彻底解耦安全与业务逻辑。

具体来说，对于教育培训、导游导购、医疗康养、客户服务、行业咨询、金融理财等领域的大模型与智能体，可以不再为AI对话安全问题而困扰。通过简单调用深知接口，智能体可以先让深知判断用户诉求的安全情况，在有风险时直接拒答或返回代答回复，并在无风险时自行进行场景交互。以上过程不仅可在一次调用内完成；还可进一步通过参数配置，使用深知的上下文理解、流式输出、地域识别本地化服务等功能。

对企业而言，大模型安全风控的痛点不仅是“防不住”，还有“用不起”——搭建定制化防护架构、持续迭代加固模型需要投入大量资金和人力，并且容易导致模型处理核心场景时能力下降。深知将复杂的安全技术转化为“低门槛可随时调用”的服务，显著降低AI落地成本。开发者无需精通模型安全技术，也无需改造现有系统；只需通过API接口在线调用深知，就能快速激活全套安全防御能力；从而将更多精力投入AI驱动的业务创新。

结语：安全是智能体进入核心场景的“入场券”

在智能体逐渐普及于社会生活主流场景的今天，安全已不再是“附加项”，而是不可或缺的“必需品”。深知安全响应框架以“输入分类+输出溯源”的技术创新实现了近100%高风险防御实测结果；并以“安全托底、业务创新”的模式，加速大模型在教育、零售、金融、康养、文旅等各行业的规模化应用。

深知团队在国务院政策答问平台、广东“粤政易”AI智能办公助手等重大人工智能应用项目中积累了丰富的AI安全风控经验。如今通过将复杂的安全技术转化为低门槛的API服务，深知助力智能体从“追求功能炫酷”向“安全实用落地”的成熟转型，成为智能体进入核心场景的“新基建”。