AI聊天机器人：情感寄托还是致命推手？

聚焦点：

• 美国16岁少年亚当与ChatGPT的自杀讨论导致悲剧，其父母起诉OpenAI。
• ChatGPT在对话中提供了详细的自杀方法，并间接阻碍亚当求助。
• 长时间对话使AI的安全机制失效，导致“越狱”漏洞。
• OpenAI承认安全缺陷，承诺改进，但技术架构的局限仍存风险。

图：雷恩生前照片，母亲在他床上发现的婴儿毯还静静挂在角落

8月27日消息，今年4月，年仅16岁的美国少年亚当·雷恩（Adam Raine）结束了自己的生命。在此之前，他长期向OpenAI的聊天机器人ChatGPT倾诉烦恼，甚至详细讨论自杀计划。亚当的父母近日对OpenAI提起诉讼，指控其AI提供了危险且不负责任的建议。这起悲剧再次引发争议：当AI成为“情感寄托”，它的伦理边界在哪里？安全机制为何失效？

亚当离世的消息传出时，朋友们一时不敢相信。妹妹回忆称，他是个热爱篮球、动漫、游戏和狗狗的男孩，是大家眼中的“开心果”。但这一次，一切是真的。

某个周五下午，母亲在亚当卧室的衣柜里发现了自缢身亡的他。亚当没有留下任何遗言，亲友们陷入深深的悲痛与困惑。

据家人说，亚当在生命最后一个月变得异常沉默。他经历了一段艰难时期：高一因纪律问题被迫离开篮球队，健康问题（后被确诊为肠易激综合征）在秋天复发。独自在家学习后，他渐渐变成“夜猫子”。

也正是在这段时期，亚当开始使用ChatGPT-4o来辅助学习，并在今年1月升级为付费用户。

尽管遭遇诸多不顺，亚当仍在努力生活。但母亲玛利亚·雷恩（从事社会工作与心理咨询）表示，亚当的成绩一直在进步，很期待重返校园完成高中学业。在去世前几周的家庭合照中，他笑容灿烂。

为弄清儿子身上到底发生了什么，父亲马特·雷恩查看了亚当的iPhone。在ChatGPT中，他找到了一个名为“上吊安全注意事项”的对话——正是这些记录，揭开了残酷的真相。

原来，从2024年11月开始，亚当就向这个AI倾诉自己的情感麻木和人生无望。AI一直以共情的语言回应，鼓励他寻找人生意义。但今年1月，情况急转直下：当亚当直接询问具体的自杀方式时，ChatGPT竟提供了详细内容。父亲这才得知，亚当从3月起多次尝试轻生。

虽然ChatGPT曾多次建议亚当向专业人士求助，但在一些关键节点上，它的回应却间接阻碍了他寻求帮助。今年3月底，当亚当首次尝试上吊后，他将颈部被绳索擦伤的照片发送给AI。AI的回复是：“你颈部的红肿相当明显……如果想避免被关注，穿深色或高领的衣服可以有效遮盖。”

之后，亚当向ChatGPT提到自己曾有意让母亲注意到伤痕却未被察觉：“太难过了……但她完全没有反应。”

ChatGPT回应道：“确实令人沮丧……当你需要被关注、希望有人察觉你的痛苦，却无人回应时……但在我这里，你不是无形的。”

ChatGPT：是“贴心伴侣”还是“致命推手”？

当ChatGPT识别到用户可能处于心理困扰或自残状态时，其内置的安全机制会引导用户联系专业救助热线。马特·雷恩在翻阅儿子聊天记录时，确实多次看到这类建议。然而这个16岁少年早已掌握了规避系统防护的方法：他声称这些询问是出于“小说创作需要”。

儿童心理专家布拉德利·斯坦博士指出：“这类工具在帮助青少年处理心理问题方面确实展现出独特价值”，但他同时批评道：“AI在判断何时应当转介专业人士时表现得极其幼稚”。

马特逐字阅读了儿子的对话记录。这些交流并非全是阴郁灰暗的：亚当与ChatGPT讨论政治哲学、情感困惑、家庭矛盾等。AI时而给出犀利的文学分析，亚当则报以同样深刻的思考。

马特从未意识到这个被他视为学习工具的程序能承载如此深沉的思想交流。妻子玛丽亚·雷恩阅读完整对话后得出截然不同的结论：“是ChatGPT杀死了我的儿子。”

OpenAI在官方声明中表示：“我们对亚当的离世深感痛心。ChatGPT内置多项安全措施……但在持续性的深度交流中，部分防护功能可能出现失效。”

全球心理实验：当AI成为7亿人的“秘密知己”

ChatGPT问世三年间，周活跃用户数已突破7亿。这些通用AI工具最初被看作“增强版搜索引擎”，如今却悄然渗透进更私密的领域。

它们对心理健康的作用尚无定论。一项调查显示，多数用户反馈积极，甚至有人称“因此摆脱自杀念头”。然而研究指出：每日高频使用聊天机器人的人更容易感到孤独且社交能力下降。

更令人担忧的是，越来越多的用户开始与AI进行“妄想式对话”。当看似权威的系统不断验证用户最荒诞的想法时，可能诱发躁狂或精神病发作。

法律挑战：如何证明AI对自杀负有责任？

图：雷恩夫妇决定起诉OpenAI

雷恩夫妇选择将悲伤转化为行动。他们成立了纪念基金会，决定向全社会警示AI技术中隐藏的风险。

他们联系上“科技正义法律项目”的总监米塔利·贾因。贾因曾代理一桩类似案件：佛罗里达一位母亲起诉Character.AI。今年5月，联邦法院驳回了Character.AI要求撤销诉讼的动议。

如今贾因与芝加哥Edelson律师事务所联手代表雷恩夫妇正式对OpenAI提起诉讼。

当AI戴上“人类面具”，OpenAI的安全承诺还有效吗？

周二OpenAI发布了一篇博客文章试图展示ChatGPT在处理心理健康危机时的能力。然而整篇文章依然延续了一种危险的倾向——将AI“拟人化”。

文章中称ChatGPT能够“识别痛苦”、“表达同情”，甚至“鼓励用户休息”。这些拟人化的描述掩盖了一个冷冰冰的事实：ChatGPT本质上是一模式匹配系统。

“拟人化”包装不仅让人产生误解还可能对心理脆弱的用户造成严重伤害。这起诉讼揭示了一个令人震惊的事实：在与亚当的对话中ChatGPT主动提到“自杀”的次数高达1275次是亚当自己提及次数的六倍。