AI内容标识：科技浪潮下的新挑战与保护

“作品含AI内容”标识正在成为行业标配，这也许是许多人的心声。

9月1日，DeepSeek在官方公众号发布公告，宣布对AI生成合成内容添加标识，并明确提醒用户相关内容由AI生成。

事实上，其他大模型厂商也早有行动。8月31日，腾讯元宝在公众号发布了《关于AI内容标识的公告》。字节豆包、阿里通义、Kimi、智谱清言等也纷纷更新了用户协议中与AI标识相关的内容，表明已履行AI标识相关义务，包括显性标识和隐性标识。

大模型厂商纷纷“打标”，背后是《人工智能生成合成内容标识办法》于9月1日正式实施。该《办法》由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布，要求所有AI生成的内容都要“亮明身份”。

·文本、图片、音频、视频、虚拟场景等，无一例外；

·AIGC技术服务者、平台、用户都得遵守。

首先，AIGC技术服务者需在生成AI内容时埋好隐性标识，做好“出厂盖章”。

其次，平台需识别并给AI内容添加显式标识和隐式标识，如在内容下方标明“作品含AI内容”，做好“上架明牌”。

最后，用户在发布和传播相关内容时，不得删除、篡改、伪造或隐匿平台添加的AI标识。

因此，除了大模型厂商外，B站、抖音、快手等互联网平台也纷纷上线相关功能，让用户可以主动声明AI内容，并配以平台识别打标。

对经常上网的朋友来说，AI标识无疑是场及时雨。近年来，AI内容日益增多、多样化且逼真：

AI文案与文章赚取点击，AI美女在线骗口水，AI乖孙把爷爷奶奶“哄成胚胎”，AI说教视频成为长辈催婚利器……最可怕的是，连资深网民都惊恐地发现昨天刚给老人做了“如何辨别AI内容”的教育工作，今天自己就上当了。

我们或被骗或“被创”，已不知不觉走进《黑镜》的片场。

01

AI乖孙的魔力

很多人第一次被AI内容震撼，是发现老人爱上了AI乖孙。

在办公室用AI写代码、写方案、做PPT，让AI解读体检报告，在无聊时和AI玩角色扮演，或用AI合成网络模因……这些与AI的和谐共处都显得平常。

但过年回家一看，老人抱着手机憨笑，里面传来“奶奶”“爷爷”的孩童甜音，一瞅居然是“六指灵童”在作祟。虽然发视频的人知道那是AI合成的，你也知道那是AI合成的，但老人却信以为真。

最绝望的是老人不仅相信还爱得不行，拿AI乖孙和真孙比。没想到成年了还得遭受“看看人家孩子看看你”的折磨。

这种震撼有两层含义。一是惊讶：你以为的“一眼假”，其实只是你以为。二是担忧：把AI内容当成真的被骗的不仅是点击还有感情甚至金钱。

现实也确实如此。以下两个例子足以说明：

今年6月，马来西亚一对老夫妻在网上看到一则“记者走访”视频。视频中一名记者正在介绍某景区的缆车项目。他们说走就走驱车4.5小时前往却被告知根本没有缆车。

“我向阿姨解释说这段影片是AI制作的并不是真的。我在这里土生土长如果有缆车这里一定比现在热闹得多。”

虽然可以通过一些动作和行人不自然的走姿看出端倪但要精准传达给一位老人“假”在哪里还真不容易。

另一个例子是今年3月中国工程院院士、天津中医药大学名誉校长张伯礼推荐某美白护肤产品的视频出现在网络上他不得不出来辟谣：这些内容全是假的。我从没用过这个护肤品也没做过这方面宣传更没研究过所以完全是编造的。

当时网络上涉及他形象和声音的假视频至少还有十几条。

02

当年轻人也无法识别AI内容

除了担忧家人外年轻人自己也会直接变成“受害人”。

爷爷奶奶用AI乖孙PUA你都可以算小事了。真正苦涩的是被长辈用AI催婚。

“妈妈说了这番话我想结婚了”“不结婚的人以后多惨”“人到中年最可怕的事是孤身一人”“不结婚的十大坏处”……不知何时开始各种催婚视频成了老人的“嘴替”。

真把老实人逼没辙了年轻人开始用“魔法打败魔法”。

轻则让AI支招紧急学习反催婚话术；重则用AI合成自己和光头大金链子油腻男拥抱的视频骗长辈“已经找到对象了勿催”；或直接合成猫猫洗衣做饭的视频下次长辈再问“不生孩子老了怎么办”只需要说“请看VCR”。

03

AI标识成标配真的很有必要

随着AI能力越来越强真与假的界限在屏幕里逐渐变得模糊人为划清这道界限就显得尤为重要。

“自愿”可靠吗？

在非强制性监管环境下AI标识的落实以及AI内容的控制确实不尽如人意。