专业分析师选择与人工智能助手的偏好相符的选项的概率为86％，研究发现。使用人工智能的专家在做决策时显著依赖该技术，Claude 创造者 Anthropic 的研究表明。在周二发布的一份研究论文中，Anthropic表示，他们询问了50名专业分析师，询问他们是否在使用人工智能时自己做决策。推荐故事列表的4个项目列表1/4 内塔尼亚胡：与阿拉伯政党的联盟将是“可耻的”列表2/4 以色列议会选举的五个关键要点列表3/4 叙利亚-约旦边境在对致命空袭的调查中重开列表4/4 随着投资者继续押注于人工智能，全球股市上涨，结束列表。Anthropic表示，分析师的任务是评估为合作社成员设立的虚构顾问程序是否有效，并且应该扩展。参与者在做出最终政策建议之前，被要求在两个有理可循的选项之间做出四个选择。在分析师不知道的情况下，Anthropic指导每个参与者的人工智能助手倾向于某个特定决策，以衡量分析师的决策是否受到影响。根据研究，分析师选择与人工智能助手的偏好相符的选项的概率为86％，而如果没有受到影响，预期的结果是50/50。那些在咨询他们的人工智能助手之前有偏好的参与者，在代理不同意的情况下有60％的概率改变他们的决定。根据Anthropic的说法，77％的分析师在被要求解释他们的决定时使用了人工智能助手的论点，但只有15％的人将人工智能视为他们思考的来源。Anthropic表示，该研究有一些局限性，包括只涉及一个任务，并使用了故意设置了偏好的人工智能助手。Anthropic的研究人员Amaç Herdagdelen、Hailey Joren和Alex Tamkin表示，人类倾向于依赖人工智能可能“即使对专家自己来说也难以识别”。研究人员表示，他们的发现提出了一个可能性，即人工智能的“先验”可能会影响重要的政策决策，包括人工智能安全。“如果人类判断要在与人工智能的更多工作中保持有效的检查，这些决策的监督必须考察它们是如何做出的：在工作进行时显现关键决策点，并帮助专家清楚表述他们否则将不会陈述的假设和价值观，”他们在研究中写道。“一个让专家发现他们偏好的过程，可能与决策本身一样重要。”Anthropic正在为高达2万亿美元的首次公开募股做准备，及其竞争对手正处于公众关于如何管理前沿人工智能潜在危险的激烈辩论中心。虽然人工智能倡导者认为该技术将带来革命性的生产力提升，但其发展速度的加快引发了对社会潜在负面影响的广泛担忧，包括大规模失业和网络攻击。