基于个性的方法可能是与机器人合作的关键刘苍苔

发布时间：2022-06-25 18:17:34

基于个性的方法可能是与机器人合作的关键

人的面部表情可能是在士兵与自治特工之间建立信任的关键之一。

美国陆军作战能力发展司令部陆军研究实验室的研究员凯瑟琳·纽鲍尔博士说：“我们希望表征和量化影响人们对自动驾驶信任的情感体验的因素。” “借助这些信息，我们希望开发一种可靠的方法来预测自动化中的决策错误使用中的以最终在人员和代理商进行实时合作时启用主动的在线缓解策略和有效的校准技术”

在典型的研究中，研究人员定义了人群，并指定和检查了这些人群中的变量，或者将变量应用为倾向于通过简单的人群趋势来代表整个人口样本的度量。在这些传统结构中，研究人员将实验者指定组内的样本变异性视为噪声。

陆军研究人员提出了一种使用灵活混合模型的新方法，该模型通过观察到的特征和状态。在这些聚类小组中，研究人员分析了在自动化程度和可靠性的不同实验条件下，基于面部识别的情绪表达量度和主观的自我报告信任量度–支持这种聚类方法的有效性，以识别与过度信任有关的关键因素。 -信任，经过适当调整的信任和不信任。

纽鲍尔说：“我们认为，这种方法通过明确评估面部表情，作为量化和校准基于情感的信任的一种方式，以响应自动化级别的能力和可靠性，从而扩展了现有技术。” “它还可以提供一种方法来理解人与人交互过程中信任的连续变化，这与参与者在交互发生后自我报告信任变化的标准方法相反。”

陆军研究人员使用自动驾驶模拟来研究人类的情感和信任。图片来源：美国陆军形象

这种方法可以提供比传统设计更多的信息，因为它可以洞察实验中的操作如何影响参与者的不同亚组。

纽鲍尔说：“人们经常说，要建立适当的信任并进行有效的校准，个人的期望必须与系统的实际行为相匹配。” “这项研究表明，校准指标因人而异；某些群体可能更倾向于过度信任自动化，而另一些群体可能从一开始就不信任自动化。从研究和开发的角度来看，这种方法提供了一种定制人工自动化的方法互动模式，而无需为每个人定义和验证特定模型。”

该研究小组发表了他们的发现，《面部表情分析：解释与自动化互动时的情感状态和基于信任的决策》，并为研究人员在确定和评估特定干预措施以校准人类自治团队的信任时提供了以下建议：

研究人员不应对所有个体都抱有相同的干预要求

研究人员可以使用针对亚组的多元方法来识别个体群，这可以告知人们对不同反应的期望，从而直接影响干预策略的选择

尽管在该文献库中经常被忽略，但是研究人员可以使用情绪表达的估计获得其他见解，以改善信任校准策略

纽鲍尔说：“结果表明，容易产生过度信任的一群人在面部表情上也表现出强烈的外向变化，并且更有可能需要采取干预措施来指导他们的期望并鼓励适当的接管。” “尽管对自动化有内在偏见的人群面部表情有限，甚至可能受到类似干预措施的负面影响。如果不考虑使用此类个体间变异性，在线缓解策略不太可能有效地发挥作用。方法。”

实验室的研究人员将在未来的人类自治团队研究中使用这些方法来改进对士兵对自动化的反应的预测，特别是使用诸如面部表情分析之类的方法来帮助提示需要基于信任的干预的关键时刻。他们还将研究基于小组的干预措施如何在人为代理的团队环境中提高信任度和团队凝聚力，例如，当士兵必须与自动化代理共同执行高后果任务时。