新研究发现人工智能正在对邓宁-克鲁格效应造成严峻的新转折

在某件事上做得最差的人往往会严重高估自己的能力，而那些真正熟练的人往往没有意识到自己真正的才能。

这种恼人的认知偏差被称为邓宁-克鲁格效应，你可能很熟悉——如果我们告诉你人工智能似乎让情况变得更糟，你会相信吗？

一个恰当的例子是，发表在《计算机与人类行为》杂志上的一项新研究——标题令人难忘，“人工智能让你更聪明，但没有人更聪明”)——表明，在被要求使用ChatGPT完成一系列任务后，每个人都不善于评估自己的表现。令人惊讶的是，那些“懂人工智能”的参与者是最严重的。

该研究的资深作者、阿尔托大学教授罗宾·韦尔奇在一份关于这项工作的声明中说。“事实上，真正令人惊讶的是，更高的人工智能素养会带来更多的过度自信。”

“我们希望了解人工智能的人不仅能更好地与人工智能系统互动，还能更好地判断自己在这些系统中的表现，”韦尔奇补充说，“但事实并非如此。”

这是一个有趣的细节，有助于建立我们对人工智能习惯可能对我们的大脑有害的所有方式的理解，从记忆丧失到批判性思维能力萎缩。也许这也证明了人工智能高级用户的自我意识。

值得注意的是，这些发现正值围绕人工智能模型危险的“阿谀奉承”展开激烈辩论之际。聊天机器人被设计成既能提供帮助又能吸引人，不断地向用户献媚，并满足他们的要求。这是一种让人上瘾的组合，让你觉得自己很聪明或被证明是正确的。这种谄媚被认为是精神科医生称之为“人工智能精神病”的广泛案例背后的主要驱动因素之一，在这种情况下，用户在沉迷于与聊天机器人交谈后，与现实脱节，陷入妄想思维。

在这项研究中，研究人员要求500名参与者中的一半使用ChatGPT来帮助解决法学院入学考试中的20个逻辑推理问题，另一半则在没有人工智能的情况下解决这些问题。之后，每个参与者被要求评估自己的表现，如果他们做得准确，就会得到额外的补偿。他们还接受了一份旨在衡量其人工智能素养的问卷调查。

研究人员发现，与没有使用ChatGPT的小组相比，使用ChatGPT的小组的分数有了很大的提高。但他们也大大高估了自己的表现——这种影响在精通人工智能的人中尤为明显，“这表明那些对人工智能有更多技术知识的人更自信，但在判断自己的表现时却不那么精确，”作者写道。

当他们检查参与者如何使用聊天机器人时，研究小组还发现，他们中的大多数人很少在每个问题上问ChatGPT多于一个问题——没有进一步的探查或反复检查。根据Welsch的说法，这是精神病学家所说的认知卸载的一个例子，这是人工智能领域的一个有充分记录的趋势，即用户将他们所有的思考都外包给人工智能工具。

韦尔奇说：“我们研究了他们是否真正反映了人工智能系统，发现人们只是认为人工智能会为他们解决问题。”“通常只需要一次交互就能得到结果，这意味着用户盲目地信任系统。”

你不得不把它交给人工智能：它正在使邓宁-克鲁格效应民主化。还有什么技术能做到这一点？