AI生成内容标识强制落地：重塑数字时代真实边界

“作品含AI内容”标识现已成行业标配，令无数用户如释重负。

9月1日，DeepSeek通过官方公众号发布公告，宣布对AI生成合成内容添加标识，并明确提醒用户相关内容由AI生成。

其他主流大模型厂商此前已有所行动，8月31日，腾讯元宝在公众号发布《关于AI内容标识的公告》。字节豆包、阿里通义、Kimi、智谱清言等也纷纷更新用户协议，纳入AI标识相关条款，表明已履行显性与隐性标识义务。

大模型厂商集体“打标”的背后，是9月1日正式生效的《人工智能生成合成内容标识办法》。该《办法》由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合印发，要求所有AI生成内容必须“亮明身份”。

·文本、图片、音频、视频、虚拟场景等，全面覆盖；

·AIGC技术服务提供者、平台方、终端用户均需遵守。

首先，AIGC技术服务提供者需在生成AI内容时嵌入隐性标识，完成“出厂盖章”。

其次，平台方需识别并为AI内容添加显式与隐性标识，如在内容下方标注“作品含AI内容”，实现“上架明牌”。

最后，用户在发布和传播相关内容的過程中，不得以任何方式删除、篡改、伪造或隐匿平台添加的AI标识。

因此，除大模型厂商外，B站、抖音、快手等互联网平台也陆续上线相应功能，支持用户主动声明AI内容，并辅以平台识别打标。

经常浏览网络的用户都明白，AI标识如同一场及时雨。近年来，人们目睹AI内容日益增多、形式多样、逼真度提升：

AI文案与文章赚取流量，AI虚拟美女在线吸引眼球，AI乖孙让祖辈倍感温馨，AI说教视频甚至成为长辈催婚工具……最令人不安的是，即便资深网民也惊讶地发现，昨日刚教导老人识别AI内容，今日自己却难以分辨。

我们或受欺骗，或遭冲击，不知不觉已步入《黑镜》般的现实场景。

01

AI虚拟孙辈的迷惑性

许多人首次被AI内容震撼，是发现老人沉迷于AI乖孙。

日常工作中，人们用AI编写代码、制作方案、生成PPT，借助AI解读体检报告，闲暇时与AI进行角色扮演，或合成网络模因，与AI相处融洽。

然而回家后，却见老人对着手机微笑，其中传来孩童甜美的“奶奶”“爷爷”呼声，细看竟是画面平滑却略显怪异的“数字孩童”。发布者知其为AI合成，你也心知肚明，唯独老人信以为真。

更令人无奈的是，老人不仅深信不疑，还将其与真实孙辈比较。没想到成年后，仍需承受“别人家孩子”的压力，而此次竞争对手竟是虚拟存在。

这种震撼源于两层：一是惊讶，自以为“一目了然”的虚假，实非如此；二是担忧，将AI内容误认为真，可能导致情感乃至金钱损失。

现实确实如此。

举两个极端案例。

一是今年6月，马来西亚一对老夫妇观看一则“记者走访”视频，其中介绍某景区缆车项目，于是他们驱车4.5小时前往，却被当地员工告知并无缆车。

“我向阿姨解释，这段视频是AI制作的，并非真实。我在此长大，若有缆车，此地必定更为热闹。”

我们专门找到该视频，画面中刻意的低画质、右上角台标，结合“记者走访”形式及流畅场景，缆车穿梭树林、溪流与山脉，极具迷惑性。

虽可通过人物动作的不自然察觉端倪，但向老人准确解释“假”在何处，实非易事。

另一例是今年3月，中国工程院院士张伯礼推荐某护肤品的视频在网络传播，他被迫辟谣：内容纯属虚构。我从未使用该产品，也未进行相关宣传或研究，视频内容完全编造。

当时网络上涉及他形象与声音的假视频至少还有十余条。

道理易懂，但向老人阐明却困难重重，堪比解释为何有人花费重金购买古怪玩偶。甚至有博主专门制作AI合成“乖孙”视频，供用户转发给家中老人。

辨别能力有限的不仅是老人，也非仅中国用户。YouTube上有用户分享，孩子观看关于“游乐场恶魔”的短视频后受惊，她费力解释人工智能概念，最终禁止孩子使用YouTube。

AI标识成为标配，无疑是对辨别能力较弱群体的保护。至少可告知他们，凡有“作品含AI内容”标识，切勿信以为真。

02

当年轻人也难以辨识AI内容

除担忧家人外，年轻人自身也可能成为“受害者”。

祖辈用AI乖孙施加压力，已属轻微；体验过长輩用AI催婚者，方知真正苦涩。

“妈妈这番话让我想结婚”、“不结婚的后果有多惨”、“中年最可怕是孤独”、“不结婚十大坏处”，不知何时起，各类催婚视频成为老人“代言”。

更魔幻的是，从明显掉帧与“穿模”牙齿，可发现催婚视频竟用AI制作——原视频或许只是普通街头采访，经AI处理，即成对口型文案点读机。

以往营销号催婚视频尚由真人拍摄，如今仅需AI深度伪造？更有甚者，直接用AI猫狗结婚视频搭配催婚文案，连宠物都需为自己物种发声。

被逼无奈，年轻人开始“以魔法对抗魔法”。

轻则让AI提供反催婚话术；重则用AI合成自己与油腻男拥抱视频，谎称“已有对象，勿催”；或直接合成宠物洗衣做饭视频，回应长辈“不生孩子老了怎么办”时，只需说“请看视频”——年轻人亦可自制，让自家宠物出场。

然而与家长周旋中，多属愤怒对抗，因催婚视频无论宠物结婚或路人对口型，仍与老人喜爱的“AI乖孙”类似，属一眼可辨的虚假视频。

当资深网民发现自己也难以区分AI视频与真实视频时，赛博恐怖故事才真正上演。

这便是“袋鼠登机”视频案例。今年5月，一则视频风靡网络，获百万点赞。视频中女士与工作人员争执，中间站着手持登机牌的袋鼠，一脸无辜望向镜头。

由于无明显光影、动作或肢体瑕疵，袋鼠表情又惹人怜爱，许多人未及思考“袋鼠能否乘机”，甚至未注意女子挥手破绽，便涌入评论区感叹“可爱”。

最终发现这是一则AI视频，甚至引来媒体辟谣。

此后，第三方仍在转发该视频，评论区仍有“蒙鼓人”。

此事对年轻人打击巨大，上午还在质疑“如此虚假视频为何相信”，下午便发现自己也无法分辨：自幼接触数码设备，自认网络高手，却难辨AI视频真伪，人类自信心受挫，真实与虚假界限模糊。

所幸AI标识来临，袋鼠再可爱，也无法欺瞒。

03

AI标识标配化，势在必行

AI能力日益增强，屏幕中真实与虚假界限逐渐模糊，人为划清此界限尤为重要。

这并非易事。

正如刚实施的《办法》，强制规范AI生产商、平台、用户三方，意味不留灰色地带或“猫鼠游戏”空间，此力度全球罕见。

类似举措见于韩国与西班牙，前者有人工智能框架法，后者有AI标识要求，均于今年初推行。

欧盟进展较快，2024年正式公布《人工智能法案》，核心为AI系统分级管理，分为“禁止类”“高风险类”“有限风险类”与“最低风险类”，并设差异化监管。法案仍在铺开，强制标签要求或至2026年生效。

且此法案遇阻，如8月美国科技巨头对是否自愿签署《通用人工智能行为准则》表态，Meta明确拒绝。

美国尚无全国性AI标识法规，部分州（如加州）有强制标签要求，联邦层面仅指导性意见，科技公司如OpenAI、谷歌、Meta等自愿支持AI水印、标识措施。

“自愿”可靠吗？

在非强制监管环境下，AI标识落实与AI内容控制，确实不尽如人意。

最典型为谷歌旗下YouTube乱象。

虽谷歌自家Gemini模型早自愿“打水印”，但YouTube平台AI短视频泛滥已至夸张程度，周排名前列常为AI视频，尤其儿童频道成重灾区。

这些AI短视频或蹩脚无意义，或宠物配狗血剧情，或生成诡异生物飘荡，最令人忧为AI讲解历史科学知识却错误百出。且许多AI视频账号重复上传相同视频，以赚取流量激励。

背后是利益驱动，曾有人在Medium发文称，利用AI短视频5天赚取5000美元。

AI内容泛滥挤压人类创作者空间，已有YouTuber制作视频讨论此乱象，呼吁平台治理。

虽YouTube表态打击大规模重复AI短视频，但YouTube Shorts仍显乌烟瘴气，未根本解决问题。

更微妙的是，YouTube8月底陷入另一争议。

有创作者发现，上传至YouTube Shorts的短视频质感异常，貌似更清晰但边缘锐利、画面平滑感诡异、阴影明显……简言之，真人视频莫名“塑料化”，似AI视频。

但同步分发至Instagram的短视频无异常，故怀疑YouTube擅自对短视频进行AI增强。本已厌烦AI短视频泛滥，真人视频竟被强制AI处理。

此事已被多家美国主流媒体报道，基本属实。

用AI功能赋能创作者是一回事，未经告知统一添加“AI滤镜”是另一回事，无怪YouTuber不满。

“我不愿视频如此处理，更不希望粉丝误认我开始制作AI视频。”

YouTube两件事（AI短视频泛滥与偷偷AI增强）暴露重大问题——AI规范仅靠科技公司“自愿”远远不足。

尤其既生产又分销的科技巨头，有原始动力多加“糖分”、扩大产量，尽管宣传时高谈健康。

未来AI视频数量恐只增不减。

分享两组数据。

一是Twicsy.com研究称，人类影响者目前平均收入为AI影响者的46倍。主因AI内容在真实性、情感连接与信任度仍有差距，导致赞助与广告收入较低。

46倍似人类大胜，但考量人类视频投入与AI视频投入（以创作者论），此差距并非太大，反显可怕。

二是Business Insider2025创作者市场报告显示，整个创作者经济（含AI生成内容）2025年已达250亿美元，较2022年164亿美元增长52%。KBV Research报告预测，虚拟创作市场（含AI生成内容创作者）至2030年将达378亿美元。

如今AI内容试图混入“真实”世界，未来是否会逆转，需在AI世界中挑拣“真实”内容？难下定论。

《办法》正式实施，AI标识难点犹存，“漏网之鱼”仍会出现，明显标识或仍无法阻止长辈用AI视频催婚、老人对“AI乖孙”发笑。

但至少脚步已迈出，方能前行。