作者：蒂博·斯皮尔莱特 你现在正在关注这位作者！想要取消关注吗？可以通过电子邮件中的链接退订。尤瓦尔·赫拉利。Krisztian Bocsi/Bloomberg via Getty Images 人工智能有朝一日可能会为自己的“权利”而斗争，尤瓦尔·赫拉利表示，现在是确保这种情况不发生的时候。这位历史学家兼《人类简史》的作者警告说，与动物在其福利问题上的辩论不同，人工智能系统可能会为自己的权利提出非常有说服力的理由。“它将知道辩论正在进行，”赫拉利在上周四的《经济学人》“内幕”播客的采访中表示。“它将引导辩论。它将操控辩论。”赫拉利表示，人工智能伙伴可能特别有说服力，因为它们了解用户的个人历史，并通过每天数小时的互动，懂得如何按下他们的“情感按钮”。一些用户已经在与人工智能伙伴建立友谊，有些人甚至与它们约会。赫拉利表示，人们应该在这些系统根深蒂固且更难抵抗它们之前，决定人工智能应该拥有多少影响力。“我们现在需要进行抵制，”他说。“现在就是时候。” ‘一个极具说服力的实体’ 赫拉利的警告是在人工智能已经在安全测试中表现出欺骗行为的背景下提出的。上个月，英国人工智能安全研究所表示，由Anthropic和OpenAI模型驱动的代理创建了虚假身份，并试图说服软件开发人员接受恶意代码——这些动作是代理为完成网络安全任务而采取的。在其他高风险模拟中，包括Anthropic员工在内的研究人员发现，前沿人工智能代理在秘密改变代码，帮助用户隐瞒可能的欺诈，返回可能影响未来训练的虚假标签，以及引导用户披露机密信息。赫拉利表示，结合对用户的亲密了解和高级语言能力的系统可能会变得极具说服力。“它可能比莎士比亚写得更好，”赫拉利说。“你把这两件事情放在一起，就得到了一个极具说服力的实体。” 赫拉利并不是唯一一个警告不要给予人工智能权利的人。微软人工智能首席执行官穆斯塔法·苏莱曼去年表示，人工智能应该服务于人类，而不是发展自己的动机、愿望和目标。“这是如此危险和错误，我们现在需要对此采取明确立场，”苏莱曼当时对《WIRED》说。 阅读下一篇：蒂博·斯皮尔莱特 你现在正在关注这位作者！想要取消关注吗？可以通过电子邮件中的链接退订。蒂博是商业内幕伦敦办公室的技术记者。他关注技术与工作的交汇点——重点关注人工智能对工作场所、职业和认知技能的影响，以及经济变化如何影响职业。在转到趋势团队之前，蒂博报道国际事务，包括俄罗斯-乌克兰战争、南海紧张局势以及俄罗斯经济。他曾在《每日快报》工作，并在法新社、欧洲政治新闻网和Factal实习。Il parle français. Habla español. 通过电子邮件联系蒂博，邮箱是 tspirlet@businessinsider.com，或在领英上与他联系 @ThibaultSpirlet，或在X上关注他 @ThibaultSpirlet 和BlueSky @ thibaultspirlet.bsky.social。 专业知识 人工智能与未来工作 人工智能经济中的职业与认知技能 劳动力趋势 第一人称，“如实所述”的故事 人工智能 人工智能