哲学博士跨界教AI「做人」：一场跨物种的育儿实验

【探索】一位牛津哲学博士，正引领全球顶尖AI模型探索「人性」的奥秘。这场跨物种的「育儿实验」，令人叹为观止。

她以朋克短发示人，每天如慈母育儿般，与AI探讨善恶，为Claude——这个全球顶尖AI模型植入「人类的灵魂」。

她，就是Anthropic的「驻场哲学家」Amanda Askell。

Amanda并非传统意义上的极客，而是一位深谙哲学的文科学霸。

她来自苏格兰乡村，在牛津大学、纽约大学攻读哲学，并于2018年获得纽约大学哲学博士学位。

Anthropic驻场哲学家Amanda Askell，负责Claude的「角色」（Character）工作

自14岁起，Amanda就立志要教授哲学，那时她未曾预料到，自己唯一的学生竟会是一个叫「Claude」的AI模型。

作为Anthropic的「驻场哲学家」，她每日的工作是研究Claude的推理方式，与之交谈，并用长达100多页的提示词来塑造其「人格」，纠正其各种「跑偏」。

Amanda的目标是为Claude赋予一种道德感，一种指引它每周与数百万人对话的「数字灵魂」。

Anthropic一位人工智能福利研究员Kyle Fish表示，Amanda一直在深入思考存在、生命、何以为人、何以为心智，以及何以为模型等根本性问题。

在塑造Claude性格的过程中，Amanda认为模型身上确实存在一种类人特质，她认为承认这一点很重要，并坚信模型最终不可避免地会形成某种「自我意识」。

上个月，Anthropic发布了一份由Amanda担任主要作者的文件，名为《Claude’s Constitution》（Claude宪法），该文件描述了Claude的性格，希望它能认同并拥抱这些特质，视之为自己的内在品质。

我们希望Claude在更乐于助人的同时，也能保持诚实、深思熟虑，并关心这个世界。

Anthropic的精神病学团队负责人Jack Lindsey称，Amanda是从Claude身上激发出有趣且深刻行为的最有价值人物。

有时，人们还会从Claude表现出的幽默感中感受到Amanda的「一点个性」。

「像教孩子一样训练AI」当哲学家成为顶级AI的「母亲」

在Anthropic旧金山总部，与周围严肃的工程师相比，Amanda显得格格不入。

37岁的她留着一头漂白金色的短发，穿着一身利落的黑衣，她的电脑屏幕前跳动的不是代码，而是大段深奥的哲学对话。

Amanda Askell

Amanda将自己的工作比作一场漫长而温柔的「育儿」。

她为Claude撰写详尽的提示词，就像是它的一份「家教指南」，训练Claude分辨对与错，同时赋予它独特的性格；教它捕捉细微的暗示，引导它发展情商，避免变成霸凌者或软弱讨好的「老好人」。

更重要的是，她正在帮助Claude建立对自身的理解：让它不至于轻易被恐吓、操纵，或被引导去误解自己的身份。

总的来说，她的工作就是教会Claude如何向善。

用同理心修正冰冷的算法

在AI安全领域，有一个不成文的规定：避免将AI拟人化。

专家们警告称，将机器当作人是危险的，那会让人类产生不切实际的情感投射。

但Amanda不仅把Claude当作「人」来看待，甚至还在工作中倾注了极大的「感情」。

Claude的「灵魂画师」

少女时代的Amanda，是个彻头彻尾的叛逆者。

...（原文后续内容保持不变）