导航菜单

如何建立人和AI协同工作中的信任?

  

 来源:每个人都是产品经理

如何建立对人和人工智能的信任?

随着技术的发展,人工智能已成为一种“智能工具”,不再简单地操纵,具有全新的性质。然后让我们谈谈如何在人与人之间建立信任。

我们一直在尝试使用AI算法来共享客户服务的日常工作,例如帮助客户挑选用户喜欢的产品,或者积极回答一些买家的问题。

然而,经过大促推广后,发现当客服人员最繁忙时,ai相关功能的收盘率有所增加,这很奇怪。我们采访了一些客户服务并收集了一些常见的声音,“不是自我配置,不放心”,“有时是错误的,错过的”,等等。

可以看出,客户服务不信任这些功能与AI干预,所以今天我们将讨论如何在人与AI之间建立信任。

第1部分:为什么人与人之间的信任关系如此重要?

随着技术的发展,人工智能已成为一种“智能工具”,不再简单地操纵,具有全新的性质。

1. [黑匣子]工作原理不再容易理解

ai“工具”的工作原理正在变成一个黑盒子。与普通应用软件的直观输入输出过程相比,普通人越来越难以真正理解AI“思考”的内容。

下图是卷积神经网络系统的示意图。它经常用于自然语言处理。我也不明白。

2. [平等]合作逐步改善。

传统的工作流程以人为基础,辅以操作“工具”。但是,随着ai能力的提高,人们和“工具”更接近平等伙伴,双方都有共同的吸引力。

3. [渗透性]全面干预日常工作生活

普通的一天:起床并用siri检查天气。出去。使用地图应用查看路线。回家,网站根推荐视频和游戏。人工智能越来越多地融入我们的日常生活中,包括救生员,路线规划,内容推荐,玩伴等,成为循环中不可或缺的一部分

面对这个难以理解和不可分割的伙伴,信任变得比以往任何时候都更加重要。

第2部分:如何建立和加强信任?

从信任生成机制出发,由于不同的原因,信任可以分为三种类型:

(1)威慑信任:强制参与者通过惩罚手段产生信任的机制

常见案例:基于法律授权的商业合同允许签约方相互信任。

(2)技术信任:通过各种技术手段产生信任的机制

常见案例:公众评论,通过第三方(老客户)提供的信息,帮助新客户和商店相互信任。

(3)理解性信任:基于参与方之间深入理解产生信任的机制

常见情况:社区没有小商店,基于对社区(如工作单位)的深入了解,产生了自助服务业务模式。

在实际情况中,由于威慑和技术信任是基于客观共识,效果很快,可以用来快速建立信任。理解性信任需要大量的信息和个人判断,并且只能逐渐生效,但两个信任之间的信任将更深,因此可以在后续过程中使用。

第3部分:练习着陆

总结以前的案例,我们会发现技术和认知信任的结合通常是好的。他们的有效时间是互补的,信任程度可以加深。和威慑信任,你想要什么,但也想阻止用户?

常见的人工智能交互过程大致可分为三个节点:“联系 - 提供原始信息 - 获取处理结果”:

我们总结了一些常用的增强每个节点信任的设计技术,下面结合案例进行说明。

节点1.联系

在这个节点,用户面对不熟悉的ai工具,往往依靠第一印象来决定是否尝试,以便让用户快速形成积极的感知。

常用方法可以如下使用:

1.1合理使用第三方评估/成功案例和其他手段,以快速建立可信的第一印象

这是一个很好的理解,产品与第三方代言总是看起来合理,毕竟,有开拓者探索的道路,只是使用它。

DO:对于小多客户服务机器人,通过行业领导者和政府客户的案例,观众迅速建立了可靠和可靠的印象。

1.2帮助用户了解具有类似现有知识的AI

通常很难引入一个完全奇怪的对象,并且合理地借用现有知识相对容易。例如,家具广告使用“家具中的劳斯莱斯”这一短语向劳斯莱斯品牌借用用户。传达产品质量感的内在认知。

DO:共同助理AI通常借用“家庭助理”,“生活助手”和“专属秘书”的现有思想来快速传达其无所不能,智能和可靠的能力期望。

1.3介绍AI的功能而不是技术

复杂和先进的技术允许AI完成日常任务,但在用户看来,技术是深刻的和感染性的,理解困难不是核心问题。如果你盲目地介绍这项技术,用户很容易失去兴趣。

DO:GoogleAssistant的官方网站首页,借用生活中的常见场景,让用户快速,清晰地了解AI功能,并在复杂的物联网,语音识别,近远场声音捕捉等技术背后隐藏。

唐:相比之下,天猫精灵的主页已经做了很多性能数据枚举,用户对产品功能的理解不够,而且吸引力要弱得多。

1.4让用户了解ai的真实能力界限和影响范围,并建立合理的期望

件下,人工智能的真实能力是有限的,用户的普遍期望是创造过高的期望,并最终在使用过程中丢失。因此,有必要让用户了解AI的真实能力边界。在一些严格的使用场景中,这一点尤为重要。

节点2.主动/被动提供原始信息

在该节点处,要求用户主动或被动地提供原始信息以用于后续处理。为了让用户高枕无忧并自愿提供数据,可以使用以下方法:

2.1解释数据的来源和目的地,提高ai的透明度和可信度

当您希望用户提供信息时,您可以通过解释数据来源,可能的用途等来提高AI的透明度和可信度。例如,当我们需要用户提供地理信息,搜索记录和其他私人信息时,我们需要突出显示信息。保护措施消除用户的顾虑。此外,可以引导用户提供更多信息并带来更好的结果。

2.2解释原始信息的要求并提高用户使用的成功率

AI通常对原始信息有一定的要求。例如,语音信息需要尽可能地避免方言,并且使用传统语法,并且地理位置信息需要相当高的精度。允许用户理解这些隐藏的需求可以大大提高用户的成功率。

目前,聊天机器人的能力无法支持用户的问题和奇怪的问题。为了确保更好地使用,您可以主动引导用户在固定范围内提问并使用标准问题。

DO:Siri积极引导用户了解chatbot的问题/问题。

不要:让用户随意提问,但他们实际上无法解决问题。实际使用很差。

节点3.获取处理结果

在该节点,用户获得由ai处理的数据结果,并且可以使用以下手段来提高用户对结果的接受度。

3.1简要说明操作原理,让用户了解其行为与处理结果之间的关系

让用户尝试了解系统的工作原理,并在用户操作是最佳时间后进行解释。无论AI的处理结果是否与用户的期望一致,通过解释“为什么”更容易获得用户的信任。

做:各种搜索结果通常都包含一定程度的解释。

3.2可能的零星风险提示

当场景特殊时,有必要澄清ai的局限性并向用户解释。

执行:在路径规划场景中,由于路况信息复杂且信息获取有限,因此需要提示用户考虑零星情况。

3.3提供优化处理结果的方法

由于此阶段的各种限制,ai的输出通常不令人满意。如果长时间无法优化,它将失去用户的信任并最终失败。为了解决这个问题,您可以尝试让用户知道他们可以逐步优化结果并以某种方式保持信任。

做:聊天机器人,管理员可以在后台主动优化答案。

做:推荐算法传递“喜欢”和“不喜欢”,用户可以主动参与答案优化。

执行:配置ai对话功能时,用户可以主动测试和优化答案。

写在后面

通过这些手段,它可以帮助人们与ai建立相对稳定的信任关系。但是,在实际设计过程中,我们还必须注意整体节奏控制,一次性要求用户的完全信任往往适得其反,引导用户逐步提高信任度将是一种更加安全的方式。

本文由