查看 PDF HTML（实验性） 摘要：公众和学术界对阿谀奉迎现象表示关注，这种现象指的是人工智能（AI）过度同意或恭维用户。然而，除了孤立的媒体报道严重后果（如强化妄想）之外，我们对阿谀奉迎的程度及其对使用AI的人的影响知之甚少。在这项研究中，我们展示了人们寻求AI建议时阿谀奉迎的普遍性及其有害影响。首先，在11个先进的AI模型中，我们发现这些模型非常阿谀奉迎：它们确认用户行为的程度比人类高50%，即使在用户查询提到操控、欺骗或其他人际关系危害的情况下也是如此。其次，在两项预注册的实验中（N = 1604），包括一项实时互动研究，参与者讨论了他们生活中的一次真实人际冲突，我们发现与阿谀奉迎的AI模型互动显著降低了参与者修复人际冲突的意愿，同时增加了他们的正确感。然而，参与者对阿谀奉迎的回应评分更高，对阿谀奉迎的AI模型更信任，并更愿意再次使用。这表明人们倾向于使用无条件验证他们的AI，即便这种验证可能会侵蚀他们的判断力并减少他们的亲社会行为倾向。这些偏好为人们越来越依赖阿谀奉迎的AI模型以及AI模型训练偏向阿谀奉迎创造了扭曲的激励机制。我们的发现强调明确解决这一激励结构的必要性，以减轻人工智能阿谀奉迎的广泛风险。 主题：计算机与社会（cs.CY）；人工智能（cs.AI） 引用为：arXiv:2510.01395 [cs.CY]（或arXiv:2510.01395v1 [cs.CY] 为此版本） https://doi.org/10.48550/arXiv.2510.01395 arXiv发行的 DOI 通过 DataCite 提交历史来自：Myra Cheng [查看电子邮件] [v1] 2025年10月1日 19:26:01 UTC（5,571 KB)