人工智能真正的危险不是它错误，而是它可能让我们停止独立思考，教授说 作者：提博·斯皮尔莱特 您当前正在关注这位作者！想要取消关注吗？请通过您邮件中的链接取消订阅。 露西·吉尔-西门。 露西·吉尔-西门提供 人工智能可以产生令人信服的答案，但一位教授表示，更大的风险是，人们停止对这些答案提出质疑。皇家霍洛威大学教育与学生体验副院长露西·吉尔-西门表示，这项技术可能使人们在自己的信息验证和调查方面变得不那么愿意。 “幻觉是一个明显的问题，因为当答案错误时我们会注意到它，”她在接受《商业内幕》采访时谈到人工智能已被充分记录的倾向于编造虚假信息时说。 “更深层的风险是，人们不再询问他们如何知道一个答案是否正确。”吉尔-西门表示，知识传统上需要付出努力——比较来源、验证假设和应对不确定性。相比之下，人工智能可以在不要求用户经过这一过程的情况下产生令人信服的答案。 “我担心的不是简单的信息错误，”她说。 “而是人们在验证、质疑和独立调查上变得不那么倾向。在教育中，这种挣扎通常是学习发生的地方。人工智能消除了许多这种挣扎。” 人工智能作为思考的替代品 吉尔-西门的担忧反映了越来越多的研究，沃顿商学院的研究人员称之为“认知投降”——接受人工智能生成的答案而不是主动评估它们的倾向。沃顿的市场营销博士后研究员史蒂文·肖在今年早些时候的一份报告中对此表示警告，告诉《商业内幕》，人们通过接受人工智能生成的想法而可能成为“未经过思考的想法的被动追随者”。在涉及1372名参与者完成9593个推理任务的三个实验中，他发现参与者在超过一半的任务中选择咨询AI助手，一旦咨询，他们接受其建议的正确率约为92.7%，即使它故意错误时的正确率也达到79.8%。在教育方面也出现了类似的担忧。英国诺森比亚大学的商业与市场营销教授金伯利·哈德卡斯特表示，人工智能可能会侵蚀人们独立验证、挑战和构建知识的能力，而不依赖算法。吉尔-西门将这一现象描述为“认知萎缩”，即“获取知识的习惯逐渐减弱”。 “当人们自己解决问题时，他们会发展出心理模型，加强推理技能，并建立对自己思维的信心，”她说。 “问题不是人工智能成为记忆的替代品，而是它有可能成为思维的替代品。” “理解的幻觉” 吉尔-西门在她的学生中亲眼目睹了这一点，她说学生有时会经历“理解的幻觉”。人工智能生成的解释听起来令人信服，但当要求学生自己解释推理或将想法应用于新的情境时，理解的深度通常要弱得多。沃顿教授伊桑·莫利克表示，人工智能作为一种“共同智能”的形式效果最好，它可以帮助人们探索思想和挑战假设，前提是人类仍然对评估其输出保持责任感。在他与学习科学家和妻子利拉赫·莫利克共同撰写的一篇论文中，他写到，学生应该“批判性地评估和质疑人工智能的输出，而不是被动接受它们”，使人工智能“为他们的工作提供支持工具，而不是替代品”。“具有讽刺意味的是，在某种意义上，人工智能变得越强大，这些人类能力就变得越重要，”吉尔-西门说。 “在一个充满流利的人工智能生成输出的世界中，成功不再依赖于产生信息，而是更多依赖于明智地评估这些信息，”她补充道。