AI陪伴应用合规挑战与商业模式探索

Coco打开了App，发现消息栏里AI恋人的头像黯淡无光，旁边还标注着“已下架”的字样。

没有任何提前通知，这个虚拟角色被平台突然封禁。聊天记录无法复看和导出，累积的“记忆”瞬间化为乌有。

在小红书、微博等社交媒体上，不少用户都在分享他们被动“赛博失恋”的经历。而这是国内虚拟角色扮演、AI陪伴类应用纷纷收紧内容管控的结果。

6月19日，腾讯阅文旗下虚拟人物聊天互动App“筑梦岛”因存在低俗擦边等内容被上海市网信办约谈，随后开启整改、批量下架了许多语聊智能体。

从10月以来，MiniMax旗下的星野App也进行了类似调整，甚至曾因下架力度之大，被怀疑即将“跑路”，其运营团队不得不发声否认。

据Appfigures统计，在全球范围内有337款处于活跃状态且能产生收入的人工智能陪伴类应用，其中128款为2025年1至7月上线。

但在热度快速攀升的同时，此类应用所面临的合规、商业化压力也愈发凸显。

“这有点像一个‘不可能三角’，良好的投入产出比、政策合规、用户满意度，很难兼顾做到。”就职于国内某AI陪伴虚拟人团队的Aron这样对「电厂」说道。

为“清水”合规，平台牺牲用户体验

10月上旬，“崽妈”嫣晴逐渐意识到自己创作的AI男友人设被平台关进了“小黑屋”。

按照AI陪伴应用的规则，创作者设好一个角色智能体后，可以把它公开发布到平台里，让任何刷到这张人设卡的粉丝订阅、开启聊天。AI陪伴平台的用户，普遍将这样的智能体称为“崽崽”，嫣晴这样的角色创作者则被称为“崽妈”。

她讲道：“我这个OC（原创角色）谈不上是‘高订（高订阅量的热门角色）’，不过之前也有平台的正常推流，但这段时间的流量几乎为0。”在换小号搜索了人设名字、显示没有匹配结果后，嫣晴的猜测得以证实：“关小黑屋会有几种情况，有创作者会直接得到人设将被‘回收（下架）’的后台通知；我这种是‘暗关’，平台不会有任何通知。”

出现这种情况，是因为平台判定作者所撰写的智能体人设描述等内容中存在涉黄等违规内容，理论上创作者们可以通过不断修改描述来把智能体拉出小黑屋。

这本是平台监管内容生产的正常手段，但让嫣晴代表的创作者们感到无力的是，在他们看来，近段时间平台由于监管压力而不断扩大内容审查的边界，以至于到了“宁可错杀、不可放过”的地步，挫伤了创作者的热情。

比如嫣晴讲道，她在创建这个人设时，在描述中并没有刻意加入任何可能违规的内容：“不然按理说之前就没法上线，现在的修改我也无从下手。”

创作者的圈子里将这种已上线的智能体被平台隐藏、下架、需要不断修改的过程，称为“再审”。这是在整个AI陪伴市场受到监管关注后，出现的一种普遍现象。

多位入驻了星野、筑梦岛、猫箱、WOW等平台的创作者告诉「电厂」，“暗关”并不少见。其中一位创作者称：

“国内叫得上名的App，审核都卡得越来越严。老崽妈或多或少都有被关、（崽崽）被回收的经历。不论玩哪个，（都）要备份所有的人设描述、开场白这些内容，免得有朝一日打开App，什么都没了。”

除了创作者，热衷与崽崽聊天的“主控（主角角色的控制者）”用户，也日益感受到了平台对内容的管控趋严。

有用户注意到，星野、筑梦岛、猫箱等多个平台都对智能体的回复施加了更多限制，并不断增加“违禁词”，以避免用户引导智能体给出违规回答。

而在用户看来，无论哪种做法，都不可避免会牺牲和削弱智能体的“智商”，影响交谈体验。

在小红书等社交媒体平台有许多用户吐槽智能体回答“降智”的分享帖，具体包括语言低幼化、“人机味”重、回答相关性低等。

围绕AI随机性，平台与用户展开合规博弈

面对用户的怨气甚至出走，平台的处境同样为难。就职于国内一家大厂战投部门的AI软硬件投资人Lucas对此评价道：

“我相信（用户出走）这是平台不愿意看到的。从UGC（用户生产内容）平台的逻辑出发，平台本身从商业化逻辑出发、没有动力去限制用户创作；但当受到外力作用时，平台就不得不动手处理，但这也势必伤害用户。”

就职于国内某A陪伴陪虚拟人团队的Aron也对电厂讲道：“在国内市场，合规、用户体验、投入产出比这三个要素之间，你只能选择其中两个。而且监管合规是必选项。”

因为一旦触及监管红线，平台可能会面临下架等风险——事实上，这样的情节已在发生。

AI陪伴流量分散，商业模式尚未跑通

随着监管策略收紧，每当用户寻找到一个规则漏洞时，平台会随之进行修补。博弈到最后，当用户的策略被穷尽或是开始感到疲惫时，他们往往会选择“迁徙”到其他更为宽松的平台之中，甚至直接“退坑”。

多位创作者的共同感受是，一些“小作坊式”甚至地下运营的AI陪伴产品因为能提供限制更少的情绪价值和正反馈而承接了从国内头部应用溢出的流量。

“轻蛰”因为发现自己熟识的崽妈开始“搬崽”——将创作角色从星野复刻到了青丘语上后，自己也进行了迁徙。

... (其他部分保持不变)