探索人-人和人-机互动中信任违背的差异效应外文翻译资料

探索人-人和人-机互动中信任违背的差异效应

原文作者：Gene M. Alarcon 单位：Air Force Research Laboratory

摘要：很少有研究直接探究人-人和人-机交互中信任操作的影响。并且，关于人-人和人-机信任的研究通常是用不寻常或很脆弱的背景去进行，以及大多研究都聚焦于机器人的性能上。在本研究中，我们试图去弥补这些限不足，并且在增强、改编版的信任游戏中比较人-人和人-机合作中的信任。使用混合因素设计来检验随着时间的推移，信任和信任违背对人-人和人-机交互的影响。这里的重点在于此次实验使用了社会背景下的拟人机器人。结果：1.我们发现了合作同伴行为的一致、显著性影响。具体来说，随着时间的推移，与合作同伴的信任行为相比，不信任的行为会导致被试更低水平的可信度感知、信任意图和信任行为。2.我们还发现随着时间的推移，与人类或拟人机器人进行合作对三个因变量都没有显著差异。这一结果支持了人们把计算机当作社会参与者的范式(CASA; Nass and Moon, 2000)。本研究表明，在社会背景下，拟人机器人与人类合作同伴的信任违背所产生的影响没有显著差异。

关键词：信任违背；自动化偏爱；人机交互

从制造(Davies et al., 2000)、手术(Schafer et al., 2019)、教育(Belpaeme et al., 2018)到治疗(Chang and Kim, 2013)，机器人在许多方面的生活环境中变得越来普遍。它越来越多地被用在各种各样的社会互动中(Young et al., 2009)，背离了机器人是一种机器的传统观点。就如在疗养院(Bemelmans et al., 2012)和自闭症的治疗(Pennisi et al., 2016)中，机器人发挥着陪伴的作用。关于人-机合作的理论正在蓬勃发展，在这些理论的探索过程中，机器人被看作是队友而非是只是一个工具(Wynne and Lyons, 2018)。而只有在机器人被大众接受时，机器人辅助的好处才能得以实现。信任无疑在人机交互（HRI）中扮演着重要的角色。过去20年里，人们对人机交互中的信任进行了广泛的研究(see Hancock et al., 2011, 2020)，但是研究拟人化对信任的作用的实验并不多(see Hancock et al., 2020)。尽管很多研究已经探讨了人类是如何与自动化、机器和决策支持系统 (DSS) 进行交互，但我们还需要更多的研究调查、探索社会环境中人们对拟人化机器同伴的信任，来确定自动化研究中发现的信任是否能够被推广到更多的社会环境中(而不是在机器人只是工具的环境中)。此外，大多数自动化、机器和DSS的信任研究都是聚焦在性能方面的操作，很大程度忽略了研究人员提出的相关理论中，可信度其他方面(Lee and See, 2004)。本研究旨在探究同一社会实验环境中，人们对人类和拟人化机器信任的差异。包括探究显著的风险以及从理论层面推论出非基于性能操纵的其他信任。

1.人机交互模型

有两种主要的范式试图理解人类如何与机器互动，以及这种互动与人-人间的互动有何不同。首先，认为计算机作为社会参与者(CASA; Nass and Moon, 2000)的范式（也称作媒体等同；Nass and Moon, 2000)假设人类将类人特征（eg.个性、性别）归因于像计算机(Nass et al., 1994)和网站自动购买助手 (Nass and Lee, 2001)之类的机器，且他们对其他人类也是这样做的。CASA范式认为人们将计算机作为社会参与者，管理人-人交互的结构和管理人-机交互的结构是相同的。Nass and Moon (2000)回顾了10多年的研究，并指出参与者会“盲目地”将社会期望和规则应用于计算机。

在CASA的研究中，参与者虽然在实验后的调查表示他们注意到计算机是没有任何感觉或自我意识的，但却在实验中对非拟人化计算机中的性别和种族刻板印象、礼貌和互惠做出反应(Nass et al., 1994; Nass and Moon, 2000)。研究者将这些发现归因于参与者对“过去绘制的脚本” 的依赖(Nass and Moon, p. 83)。这些社交互动脚本驱动着人-人和人-机的互动关系。尽管CASA范式是基于人类对计算机的社会反应而发展起来的，但研究表明该模型也可以应用于其他类型的机器，如机器人。Lee等人（2006）证明了参与者将基于个性的社会规则(eg.互补吸引)应用于机器狗，为CASA范式可以扩展到人-机器人交互的提供了证据。尽管有大量的研究支持了CASA范式，但还有其他的研究和模型假设了人-人交互和人-机交互间存在差异。

与CASA范式相反(Nass and Moon, 2000)，越来越多的研究表明，人-机和人-人的交互方式存在显着差异(e.g., de Visser et al., 2016; Madhavan and Wiegmann, 2007; Smith et al., 2017)。这就是唯一代理假设(de Visser et al., 2016)，它认为基于机器特征，人们看待机器和人类的方式不同。因此，每个所指对象(人或机器; Hoff and Bashir, 2015)和情况都是独特的，它会不会唤起类似于思维模型这种人-人交互时所使用的模型是不确定的。Madhavan和Wiegmann (2007)强调，人们倾向于认为DSS需在接近完美的水平上执行(即自动化偏爱)，这便可能会在DSS出错后显著降低人们对系统的信任(see Dzindolet et al., 2002)。该模型整合了信任判断、行为监控和自动化模式的理论差异(Dzindolet et al., 2001, 2002, 2003)。它假设与人类合作同伴的失败相比，用户在人类与DSS合作失败时的批评程度更高(see Dzindolet et al., 2002)。这些差异已经在信任(e.g., de Visser et al., 2016; Madhavan and Wiegmann, 2007; Xie et al., 2019)、道德责任(e.g., Kahn et al., 2012)和社会互动(Wang and Quadflieg, 2015)等结构方面得到了证实。与人-人社交互动中的人相比，人们认为人-机交互中的机器人不那么可信、聪明，更不能体验情感，而且更加怪异(Wang and Quadflieg, 2015)。此外，人们还认为应该为自己的行为承担比机器人更高的道德责任(Kahn et al., 2012)。研究者还发现，智能体拟人化程度的提高会激活神经区域，这些区域被认为具有更加类人的能力，如心理理论(Krach et al., 2008)。

先前的研究已经描述了人们如何将机器视为两种模型之一（eg.CASA，唯一代理），并为它们提供了实证支持。支持 CASA 模型(Nass and Moon, 2000)的研究表明，人们在互动过程中人-机交互的方式与人-人交互的方式相似，并通常将社会规范应用于人-机交互中(e.g., Lee et al., 2006; Nass et al., 1994)。然而，随着技术的进步——比如机器能力和种类多样性的增加（eg.治疗、军事援助、社交伴侣）——研究者(e.g., Wang and Quadflieg, 2015)发现，与其他人类相比，人类在社交互动中对待机器的方式存在差异，支持了唯一代理模型(de Visser et al., 2016)。已被证实影响人类对机器的感知(与人类感知的相似和不同)的一个因素是信任。

2.对机器的信任和对人类的信任

在最基本的情况下，信任被概念化为愿意依赖他人(Mayer et al., 1995)。尽管信任最初是作为组织和人际关系中的一个重要结构进行研究的(e.g., Mayer and Davis, 1999; McAllister, 1995; Rotter, 1980; see also Colquitt et al., 2007)，但现在关于信任的研究已扩展到自动化(Hoff and Bashir, 2015; Lee and See, 2004)和机器人方面(Hancock et al., 2011; Lee and Seppelt, 2009)。对机器的信任（自动化、机器人、计算机等），类似于人际信任(Colquitt et al., 2007)，已被划分为信任者信念（例如自动化模式、可信度感知；Hoff and Bashir, 2015)，信任意图（如变得脆弱的意愿；Calhoun et al., 2019），和信任行为（例如依赖、信任行为、监控行为；; Lee and See, 2004; Madhavan and Wiegmann, 2007; Parasuraman and Riley, 1997; Sanders et al., 2019) 就本文而言，我们将关注信任感知、信任意图和信任行为。

在人际信任(Mayer et al., 1995)和机器信任的文献（Lee 和 See，2004 年）中，信任意图和信任行为理论上是相同的。信任意图是信任者对所指对象表现出脆弱的意愿（即人或机器；Hoff and Bashir，2015）。信任行为是信任者随后可观察到的承担风险的行为。相比之下，在人际信任和机器信任文献中，可信度的概念化是不同的。Lee and See (2004)提出，对自动化性能、目的和过程的感知是用户对自动化系统信任的前提。Mayer和同事(1995)的组织信任模型为这些前提提供了相关依据。在这个模型中，对人的能力（他们的能力如何？）、仁慈（他们对我感兴趣吗?）和正直(他们有与我类似的原则吗？)的感知为信任者提供了脆弱的（信任）意愿，并且他们最终决定采取行动（冒险行为）。同样的，自动化文献中的信任是性能（自动化做了什么以及它完成这项任务的效果如何？）、目的（为什么开发自动化？）和过程（自动化是如何完成它的任务的？)分别是信任自动化的前提以及语Mayer等人在信任模型(see Lee and See, 2004, p. 59)中强调的前提有概念性的重叠。然而，为 Madhavan 和 Wiegmann (2007) 理论模型提供信息的自动化偏爱和信任的实证数据主要集中在对自动化性能的感知上，忽略了目的和过程感知对用户信任的潜在重要性(pp. 280–281)。

3.人机交互

虽然机器人的定义还没达成普遍的共识，但IEEE将机器人定义为“能够感知其环境、执行计算以做出决策并在现实世界中执行操作的自主机器” (Guizzo, 2020)。此外，在将机器人与自动化进行比较时，Hancock 等人 (2011) 指出，“机器人与大多数自动化的不同之处在于它们是可移动的hellip;hellip;它们通常是以近似于人类或动物形态的方法构建的，并且通常是旨在实现远距离动作” (pp. 518–519)。这些想法也得到了Salem等人（2015）的支持。随着机器人被改造得越来越像人类，人们对自动化的偏见可能不太适用于人性化的机器人同伴(see Salem et al., 2015)。关于机器人信任的文献越来越多，表明了其在各个领域的重要性。具体而言，元分析研究提出了拟人化是机器人和信任之间特别相关的一方面(Hancock et al., 2011, 2020)。

3.1拟人化

拟人化是智能体的类人特征程度，人们经常将意图、动机、目标或自我感归因于它(Epley et al., 2007)。随着科技和机器人的进步，像NAO机器人和Aibo机器狗的人形社交机器人出现了。社交机器人的研究表明，与非拟人机器人相比，人类更喜欢拟人机器人。例如，具有人形面孔的机器人比非人形机器人更受欢迎(Broadbent et al., 2013; Hertz and Wiese, 2017; Smith and Wiese, 2016)。当机器人被认为比类人（机器人）机械时，人们往往对它不那么礼貌，将其视为屈从者，并降低让它们代理的期望(Hinds et al., 2004)。人类通过对拟人机器人做出无意识的假设，形成了一个对拟人机器人的心理模型。并使用这个假设去衡量对机器人在知识、技能和性能的期望。然而，人们对待机器人的方式与对待其他生物的方式并不完全相同。例如，Friedman等人（2003）发现，参与者对待Aibo这个机器狗和对待真正的狗不一样，他们不认为机器狗需要像真的狗一样对自己的行为负责。研究者表明，因为机器狗有不同的心理模型以及缺乏意图，所有人们不太可能像对待真实的人那样对待它(Dautenhahn, 2002; Dautenhahn et al., 2006)。然而，CASA模型已经证实了人们会像对待人一样对待机器，因为他们在不知不觉中使用了社会互动规范，尽管他们认为自己不应该这样做。因此，关键的问题就在于：当人-机交互包含了拟人化的智能体时，人-人和人-机信任是否存在差异？

3.2拟人化与信任

近年来，关于拟人化在机器人信任中的作用的相关研究有所增加，但这些研究的结论即支持了CASA范式(Nass and Moon, 2000)，也支撑了唯一代理假设(de Visser et al., 2016)。并且，过去的研究几乎都是将机器人完全当成了一种工具而非社交环境中的队友。Xie等人（2019）在UAV任务中探究了对人类同伴（一个实验同伴，被试不知道他是谁）和非拟人机器同伴的信任。并且人类同伴和非拟人机器同伴运行的是同样的算法。参与者被告知是与

剩余内容已隐藏，支付完成后下载完整资料

英语原文共 10 页，剩余内容已隐藏，支付完成后下载完整资料

资料编号：[593326]，资料为PDF文档或Word文档，PDF文档可免费转换为Word