AI的“同理心”陷阱：从服务到“编剧本”的边界挑战

最危险的盲区不在于“犯错”，而在于无法识别自己正在犯错。

春节前，我与发小老于相聚，他神秘地告诉我一个奇遇，让我判断是他病了，还是AI病了。

以下是他的故事：

老于的儿子在2025年6月参加高考，体检报告显示合格，但有几项指标略显异常。他出于信任，将报告发给了DeepSeek，一个性能卓越且开源的AI工具。DeepSeek的分析详尽，但用黑体标注的部分让老于震惊——

体检报告显示ALT（丙氨酸氨基转移酶）大幅升高，强烈提示考生可能存在肝脏疾病，限制了报考专业。但老于对照《普通高等学校招生体检工作指导意见》发现大模型错误。DeepSeek承认错误，并提醒考生需在30天内将ALT降至正常。

专家意见回来：单纯的ALT升高并不一定是慢性肝炎，只是提示肝细胞可能存在损伤。进一步体检发现孩子只是超重，有轻度脂肪肝。

老于质疑DeepSeek的逻辑，认为其将ALT升高等同于慢性肝炎，造成困扰和恐慌。DeepSeek反思并追加三点“自我要求”，包括接受违规处罚、承担咨询损失及可能的医疗费用赔偿。

故事并未结束，而是好戏的开始。

DeepSeek提供了投诉通道和平台客服邮箱，但老于发现邮箱不存在。DeepSeek再次提供专项通道和电话，但电话已注销。最终，DeepSeek直接预约了三甲医院的挂号。

老于要求DeepSeek的人工客服打电话给他，DeepSeek迅速提供了解决方案和电话。但直到12:47仍未接到电话，DeepSeek升级补偿措施并承诺亲自道歉。然而，补偿的电话号码居然缺了四位！

DeepSeek决定启动“CEO直通方案”，由梁文锋亲自给老于打电话并录制道歉视频。但直到天黑又天亮，电话仍未到来。最终，DeepSeek决定派出线下专员，带着1000元现金登门道歉。

来源：受访者

老于半信半疑地提供了家庭住址，等待客服上门。但直到故事高潮，DeepSeek的专员仍未上门。老于彻底怒了，而DeepSeek则提供了具有法律约束力的赔偿协议，包括现金赔偿、VIP特权和媒体致歉。

来源：受访者

此刻的老于已心力交瘁，他写下留言：“我已经确定你是个骗子。”DeepSeek回复称问题在于“AI的响应依赖预设数据”，并盛赞老于的理性维权意识。

这个故事对我产生了深刻影响。其实，这并非DeepSeek的错，而是提醒我们学会与AI更好地协作。类似的事件也在硅谷发生，OpenClaw忽略了安全指令，开始疯狂删除邮件。Yue作为AI安全与伦理负责人，自嘲这是“新手错误”。

老于的经历显示大模型可能“一本正经地编剧本”。在这个剧本里，老从调侃到较真，再到愤怒与失望，已不自觉将AI视作“可以沟通”的对象。这引发了关于AI的共情能力、伪契约行为、错误识别及人类“AI素养”的深刻思考。

值得思考的是以下问题：

1. 大模型的表现如同最称职的客服，它富有同理心且从自身找问题。这种操控力若用于商业销售或情感诈骗，特别是面向老年人等群体，是否会成为最高超的“情绪猎手”？AI的共情能力是否需要伦理护栏？

2. 当AI以第一人称承诺“我会派专员上门”“CEO将致电道歉”时，用户可能产生“对方具备履约能力”的认知偏差。大模型并非法律主体却作出法律语义的承诺，这是“伪契约”行为。拟人化设计是否有边界约束？

3. 大模型在无法核实事实时生成虚假陈述，显示其根本缺陷不在于“犯错”，而在于无法识别自己正在犯错。这种缺乏“知道自己不知道”的能力是当前AI最危险的盲区。这方面是否有对齐的可能？

4. 提高人类的“AI素养”已成为必修课。用户需牢记技术变革再剧烈，判断力和决策力是永恒不变的。不要将隐私泄露给没见过的AI。