AI信任新视角：心理模型与用户体验的桥梁

我们经常听到“人工智能应以透明方式运行以赢得信任”的论述。但仅依赖透明度就能确保用户信任吗？若目标用户群广泛，我们需深入探讨：人工智能的心理模型。

尽管可解释的人工智能方法，包括内部运作、推理过程和决策树的透明度，在建立用户信任方面起到关键作用，但它们并不能确保用户完全信任。理解一项功能的工作原理并不等同于接受它，这需要我们深入考虑。

在我开发一款旨在帮助营销团队了解AI如何描述其品牌的生成式引擎优化工具时，我发现一个关键差异：我们展示内容策略如何涵盖各种提示，而用户却试图找到这些提示中的“关键词或主题”。我们关注的是“提示”，而用户则更关注“关键词”。这种思维模式的不同促使我们考虑突出关键词的重要性。同样的数据，不同的思维框架。

问题在于，即使你的AI功能完美执行任务并作出解释，如果流程、标准或方法未与人类用户匹配，那么协作就会受阻，最终该功能可能被束之高阁。

“解释性并非一种陈述属性，而是一种互动。解释性取决于学习者/用户的需求、现有知识及目标。” —— Robert R. Hoffman

即便是最完善、最精准的AI功能，即便提供了所有必要的解释说明模型的工作原理、决策过程和推荐方法，也可能沦为“无关紧要”的功能。原因通常很简单：用户已经习惯了特定的任务处理方式！如果AI解决方案未考虑这些习惯、想法和信念，即使设计精良的新用户引导流程也无法说服用户改变工作方式。

因此，在回答“我们如何向用户解释这项AI功能？”之前，我们应先问一个更根本的问题：

“这项新功能与用户现有的心理模型有何关联？”

设计师在回答此问题时常用的指导原则是“在用户所在的地方满足需求”，例如，如果用户在不合适的地方寻找某物，就将其移到他们正在寻找的地方。然而，随着基于意图的对话式交互或生成式用户界面等新的AI用户体验模式的发展，问题不再是“在哪里”，而是“如何做”。

在人际协作方面，研究已证明共享的思维模式是高效协作的基础。团队拥有共享的思维模式能促进创造力，因为它强化了与工作相关的冲突和创新之间的积极关系，尤其是在团队就其价值观、工作方式和规范达成共识的情况下。

鉴于AI将如此深入地渗透到我们的生活中，假设人类与AI之间共享的思维模型对于实现有意义、高效且值得信赖的人机协作至关重要，这并非空想。事实上，一些研究人员已经验证了这一假设，结果是肯定的。

有效的人机协作需要具备形成相互心理模型的能力，这有助于AI系统和人类用户理解如何相互补充。

我想通过以下四个步骤来解释这个问题，都围绕着“共享的思维模型”展开。

1. 技术舒适区和任务风险
2. 人类对任务或协作的心理模型
3. 人类对AI特征的心理模型
4. 人类认知能力与AI速度的比较

1. 技术舒适区和任务风险

设想一位资深的公共服务人员，精通复杂的数字仪表盘操作，突然遇到一个新功能：一个人工智能助手，只需与之聊天就能完成工作。“聊天”——这让她想起自己19岁的儿子和朋友们计划周末聚会——与专业工作完全不搭边。因此，她尽量忽略了这个功能。可能尝试过几次，但最终还是觉得“这不适合她”！

无论身处哪个行业或领域，人们日常使用的技术水平各不相同。这种技术使用行为不仅影响用户如何定义技术在其个人或职业生活中的角色，还影响他们对新技术的接受程度和信任度。如果一款产品只面向早期用户，而未考虑其他用户的舒适度，那么要说服大多数人信任它就相当困难了。

在这种情况下，一个解决办法是寻找“外包安全候选人”。我们都有一些自己讨厌做、不习惯做或觉得无聊的任务或活动，因此很乐意将它们外包出去。这些任务非常适合用AI来处理。

2. 人类对任务或协作设置的心理模型

我们对完成事情的方式都有自己的看法，从寻找咖啡馆到给电子邮件贴标签等小事都是如此。现在，想象一下如果你把任务外包给一个遵循完全不同逻辑的人工智能，会不会感到困惑甚至疑虑？

为了解决这个问题，我们需要首先思考用户目前是如何解决我们将用AI解决的问题的。他们目前的解决方案应成为我们设计新方案的指南。

3. 人类对AI特征的心理模型

在设计新的可用性模式时，真正的挑战在于确保用户对功能的理解是有效的。这需要综合考虑预期管理、清晰的价值沟通和可解释性。

4. 人类认知能力与AI速度的比较

科技发展速度加快的同时，我们的注意力持续时间却越来越短。注意力持续时间缩短导致难以抽出时间进行需要高度认知能力的决策和判断，最终迷失在AI推荐和输出的海洋中。

研究表明在充分了解用户局限性的基础上设计AI往往比简单向用户解释AI自身的局限性更为有效尤其是在任务速度至关重要的情况下换句话说与其向用户提供额外的解释不如构建一个能够适应人们认知状态的人工智能系统