当前位置:首页 > 科技资讯 > 正文

AI涉黄风暴:企业巨头与个体的双重考验

AI涉黄这股妖风,如今正威胁着企业安全,究竟何时才是个头?

近日,一段“小鹏汽车展台车模不雅视频”在网上疯传,画面中,一名身着绿色裙装的女子在小鹏新款车型旁做出各种低俗动作,引发舆论哗然。然而,真相令人咋舌:这竟是AI生成的虚假视频,制作人李某仅为“炫耀个人技术”,最终被处以行政拘留10日的处罚。

AI涉黄风暴:企业巨头与个体的双重考验 AI涉黄 企业安全 网络黑产 技术滥用 第1张

这仅是冰山一角。近年来,汽车行业成为网络黑嘴的重点“围猎”目标,从AI涉黄内容到精心策划的品牌抹黑,一场针对中国车企的数字暗黑战争已经全面爆发。

受害的小鹏只是一个缩影,因为这些AI涉黄的技术更进一步:去年还仅是生图,今年直接将产品场景与AI生成内容绑定,让网友难辨真假。几年前,AI涉黄还仅限于个别网友的自嗨,如今,直接成了危害企业的“定时炸弹”。

AI涉黄风暴:企业巨头与个体的双重考验 AI涉黄 企业安全 网络黑产 技术滥用 第2张

制作成本低至几毛钱,传播速度却极其迅猛,给企业造成的损失动辄数亿。然而谁都想不到,AI涉黄的玩家除了个别普通人之外,连海外巨头都在参与这场“邪恶”游戏。

不久前,OpenAI的CEO山姆·奥特曼宣布,ChatGPT将在12月全面解绑,推出“成人模式”。从好端端的AI原地变成“G老师”。

AI涉黄风暴:企业巨头与个体的双重考验 AI涉黄 企业安全 网络黑产 技术滥用 第3张

屡禁不止的AI涉黄,如今又进化到了2.0卷土重来。

销冠、车模、明星“中招”,逼急香港官方

这一次,小鹏汽车的“车展艳照门”堪称教科书式攻击。理想MEGA的遭遇,则更显阴谋色彩。有人将色情图片与车辆内饰图拼接,编造“车载摄像头泄露车主私密画面”的谣言,在20多个车友群同步扩散,引发近千万次浏览,直接导致部分潜在消费者取消订单。

AI涉黄风暴:企业巨头与个体的双重考验 AI涉黄 企业安全 网络黑产 技术滥用 第4张

更为恶劣的是,青岛保时捷中心女销售牟倩文的惨痛经历。她的个人照片被不法分子用AI换脸技术合成不雅视频,视频中刻意保留保时捷的品牌标识和门店背景,被恶意冠以“保时捷销售为冲业绩陪客户”的标签,也影响了保时捷的销量。

AI涉黄风暴:企业巨头与个体的双重考验 AI涉黄 企业安全 网络黑产 技术滥用 第5张

AI涉黄内容已形成完整的黑色产业链,车企成了最大的受害者之一。据蔚来法务部透露,仅2025年上半年,此类关联攻击就造成品牌形象损失评估超过28亿,销售额骤降。

技术2.0升级:小说、直播、儿童应用……

这些年,从最初的个体化、小规模制作,到如今全球化、分工明确的产业化运作,AI涉黄产业链已完成令人意想不到的升级。与此同时,AI技术的升级也在彻底重构传统色情产业逻辑。

首先,是让色情内容制作进入“人人可DIY”时代。几年前还需要专业技能的深度伪造技术,如今仅需一款简单软件或一个在线平台即可完成。

比如在小说领域,有人批量生成色情内容。在直播和互动小说中,AI技术更是被用来生成各种擦边内容。这些技术平民化背后是完整产业链支撑。

屡禁不止背后,竟是平台带头训练?

其实AI涉黄早几年前就已经出现,但为何依然屡禁不止?答案是市场需求永远是产业链升级的驱动力。

有数据显示,AI驱动的成人内容市场规模已达数十亿美元。正是在巨大利益诱惑下,不法分子不断更新技术、扩大规模。

AI涉黄风暴:企业巨头与个体的双重考验 AI涉黄 企业安全 网络黑产 技术滥用 第6张

外国科技巨头放宽内容限制的背后还是资本逐利思维。业内相关人士指出:“以游戏或YouTube内容为例,用户的情感投入度越高,付费比例就越高。”与AI讨论的话题越私密、越敏感,用户对AI的情感投入度就越高。