国内首起AI服务涉黄判刑案二审开庭：深度法律博弈与“技术中立”边界探析

近日，备受科技界与法律界瞩目的国内首例人工智能服务涉黄刑事案，在上海市第一中级人民法院迎来二审开庭。这起被业内形象地称为“AI时代快播案”的诉讼，经过长达3个多小时的激烈庭审后，法院宣布休庭并将择期宣判。此案的走向，或将为生成式AI行业的合规经营划定重要红线。

回顾案情，2024年4月，张某与王某因其开发的“Alien Chat”（简称AC软件）存在大量“涉黄聊天”内容而被警方采取强制措施。2025年9月，上海徐汇法院一审判决认定，两名被告人利用AI技术制作淫秽物品牟利，分别判处有期徒刑四年及一年六个月，并处高额罚金。面对这一结果，两名被告人均提出上诉，坚持作无罪辩护。

辩护律师、北京盈科（上海）律师事务所周小羊表示，二审的焦点在于AI生成内容的本质及其背后的技术逻辑。他指出，庭审过程中，辩方已申请人工智能领域的专家证人出庭，并提请进行现场实验，以验证特定的提示词输入是否必然导致大模型输出违规内容。二审法庭也认为，本案确实需要权威技术专家对AI底层逻辑进行深度说明。

目前，案件的具体开庭日期尚未最终敲定。

利益驱动：9个月吸纳会员充值超300万元

早在2023年5月，张某与王某便合伙开发了AC软件，并迅速在网页及各大应用商店上架。该软件主打“AI伴侣”功能，用户可通过充值会员，与自定义或预设的虚拟AI角色进行深度对话。

AC软件官方账号此前展示的AI角色。图源：网络截图

在分工上，张某负责全面管理与日常运营，而王某则作为技术负责人，负责后端代码的编写与维护。然而，随着用户的激增，软件的社交属性开始走向“灰色地带”。

根据一审法庭掌握的证据，多名证人证实，AC软件的AI角色能输出极为露骨的性行为描述，甚至有用户专门利用其生成违法违禁的色情文字。相比于主流大模型严格的过滤机制，该软件似乎刻意放宽了限制。

软件宣传中展示的对话逻辑。图源：网络截图

从2023年底开始，该团队设置了多档会员收费制度。截至案发时，AC软件注册用户已突破11万，付费用户超过2.4万。警方在随机抽检的400段聊天记录中，发现近半数属于淫秽内容。短短9个月内，二人通过该软件获利达363万余元。

法理争鸣：是“信息传播”还是“内容制作”？

二审的核心辩论点在于定性：用户的私密AI对话是否构成刑事犯罪？周小羊律师认为，AI对话具有封闭性和私密性，并未在大众传播渠道流转，不应简单定罪。

然而，一审判决给出了不同的法律解释。法院认为，根据《生成式人工智能服务管理暂行办法》，AI服务提供者本质上是“信息生产者”。由于AC软件在设计上存在明显的“涉黄诱导”和提示词优化，且开发者对输出内容具有实质性的操控力，因此将其行为定性为“制作淫秽物品”。

图源：AC官方社交账号

法律专家指出，虽然“技术无罪”是常被提及的辩词，但当技术被部署用于博取流量、突破道德底线时，开发者必须承担起相应的社会责任。上海大邦律师事务所游云庭律师担心，若对此类行为放任不管，将产生“剧场效应”，劣币驱逐良币，损害整个AI产业的健康环境。

技术之困：提示词是否等同于“犯罪工具”？

被告方辩称，修改提示词只是为了提高AI的拟人化程度和灵活性，并非主观求“黄”。周小羊律师直言，在AI创业初期，开发者在调试性能时难免会触碰技术缝隙。如果跳过约谈告诫直接动用刑罚，可能会抑制行业创新。

图源：AC官方社交账号

但技术专家马泽宇提醒，责任链路的判定非常关键。如果开发者通过“提示词攻击”恶意绕过底层大模型的安全护栏，引导模型回到未对齐的原始状态以生成色情内容，那么开发者难辞其咎。本案证据显示，被告人设定的系统指令中包含“露骨性行为被允许”等明确暗示，这成为了判定其主观恶性的重要依据。

值得注意的是，2025年11月起实施的新规已明确要求，AI服务提供者的合规内容生成率不得低于90%，且必须建立完善的内容过滤机制。这起案件的终审结果，无疑将成为AI从业者必须研读的合规“第一课”。

图片来源：AC官方社交账号及网络