对增强技术的盲目信任会鼓励冒险即使该技术是虚假的
一项新的研究表明，当人们期望通过人工智能 (AI) 等增强技术提高他们的表现时，就会产生安慰剂效应。研究人员发现，对这些技术抱有很高期望的人会做出风险更高的决策，这可能会成为一个问题，因为人们在没有正确理解这些技术的好处和局限性的情况下采用这些技术。
增强我们的身体、认知或感官表现的增强技术已经变得司空见惯。有些应用如此广泛，以至于它们变得不可见——例如拼写检查——而且新技术正在出现，可以将我们的能力推向人类极限，例如外骨骼和基于 AI 的视觉增强。但围绕这些技术的炒作也建立了期望，这可能会导致人们改变他们的行为。
阿尔托大学 (Aalto University) 助理教授罗宾·韦尔施 (Robin Welsch) 表示：“当人们相信自己可以通过人工智能或脑机接口等尖端技术得到增强时，他们更愿意冒险。” '即使没有涉及实际的增强技术也会发生这种情况，这表明它是关于人们的期望而不是任何明显的改进。调查结果还表明，基于虚假系统的强烈信念可以改变决策。
不要相信处理器
Welsch 与 LMU Munich、HU Berlin 和 Aalto University 的同事一起，通过著名的心理学实验 Columbia Card Task 来衡量决策和冒险行为。在实验中，参与者通过翻开带有隐藏值的卡片来赢得或失去分数。27 名参与者被引导相信人工智能控制的脑机接口，即安慰剂，将通过使用双耳声音来追踪丢失的卡片来增强他们的认知能力。
但是游戏被操纵了——增强并没有提供真正的好处，参与者几乎从未遇到过输牌。尽管如此，大多数参与者仍然认为增强功能帮助他们做得更好，这让他们承担了更大的风险。这些发现表明虚假的认知增强如何对冒险行为产生真正的影响。
“围绕这些技术的炒作扭曲了人们的期望，”慕尼黑大学的博士研究员 Steeven Villa 说。“它会导致人们做出风险更大的决定和有利的用户评价，这可能会产生真正的后果。”
技术从来都不是中立的
现代基于 AI 的视觉增强工具正变得可供消防员透过烟雾看东西，工厂工人已经在利用外骨骼来处理挑战人类体格的负载。生成式人工智能系统的潜移默化效应可以为知识工作者提供类似的推动力。作者担心，整个行业可能会建立在错误的预期之上，从而对风险产生更大的胃口。
“增强用户的基于人工智能的技术越来越普遍，并在影响人们生活、福祉、信心和安全的现实生活决策中发挥作用。” HU Berlin 教授 Thomas Kosch 说。“为了确保新技术的有效性超越炒作，安慰剂对照研究对于准确评估和验证以区分蛇油和真正的创新是必要的。”
版权声明：本文由用户上传，如有侵权请联系删除！