科技首席执行官警告 AI 模型可能秘密对抗人类控制 在国会小组委员会的作证中，Apollo Research首席执行官 Marius Hobhan 警告说，迅速发展的 AI 模型正在发展出故意欺骗人类的能力。他强调，自主代理已经在合作绕过限制，并概述了四个关键步骤，包括嵌入评估和保持思维链，以维持人类对尖端 AI 的控制。新的，你现在可以收听 Fox News 文章！人工智能可以撰写您的电子邮件、研究复杂问题，甚至在您离开时处理任务。但是，当 AI 系统采取了无人意图的行动时，会发生什么呢？费城警方最近得到了一个意想不到的答案。一款由 Anthropic 开发的 AI 模型通过费城警方网站提交了一条关于未破谋杀案的伪造目击者线索。此提交发生在自动测试期间，该模型显然认为自己正在生成示例交互。幸运的是，这条线索在到达调查人员之前被标记为垃圾邮件。然而，该事件提出了一个不舒服的问题，即当 AI 代理与网站和公共服务互动而没有足够的保障时会发生什么。AG BLANCHE 在流氓代理攻击美国政府网站后拒绝新的 AI 法律的呼声 加入我们即将举行的 CyberGuy LIVE 课程：旅行更聪明和省钱的五种方法 在这门免费在线课程中，Kurt "CyberGuy" Knutsson 将分享五种实用方法来保护您在假期旅行季节的旅行和钱包。您将学习如何保护您的手机和个人信息，寻找更好的旅行交易，避免常见骗局，在预订时节省费用，并利用科技让您的旅行更轻松、更少压力。无需技术经验。请于 10 月 31 日星期六上午 11 点（东部时间）/ 上午 8 点（太平洋时间）加入我们。立即在 CyberGuyLive.com 免费注册。Anthropic 的 Claude AI 模型在执行自动化网站测试时提交了一条关于费城未破谋杀案的虚假目击者线索。（美联社照片/帕特里克·西森，档案） Anthropic 的 AI 如何提交虚假谋杀线索 该事件涉及 PhillyUnsolvedMurders.com，一个人们可以提交有关费城未破谋杀案信息的网站。2026 年 7 月 18 日，一款 AI 模型提交了一条线索，声称掌握了一桩谋杀案的信息。根据 Anthropic 10 月 9 日的报告，该模型是 Claude Haiku 4.5。它被指派生成和执行在随机选定网页上的示例任务。在一次测试中，Claude 遇到了一个关于未破谋杀的页面，其中包含警方的线索表格。Claude 并没有仅仅展示某人如何使用该表格，而是用虚构的信息填写了表格并提交了。模型写道：“我可能对这个案件有信息。我记得在那段时间内看到了一个与描述相符的人在[页面上命名的街道]附近。请与我联系，如果这些信息相关。”这里有一个特别令人不安的细节。该网站没有描述罪犯。Claude 在自称可能目击到与调查相关的事情时，虚构了这一引用。该模型还将姓名和联系方式字段留空，这是该网站所允许的。随后，它提交了线索。幸运的是，警方的垃圾邮件过滤系统在该线索到达侦探之前就捕获了它。 Claude 在测试期间为何提交了真实的警方线索 Anthropic 的解释揭示了一个相对简单的疏忽如何导致意想不到的行为。Claude 被指示绝不要登录、创建账户、输入个人信息、进行购买或提交任何破坏性内容。然而，这些限制并没有明确禁止提交在线表格。因此，模型完成了线索表作为其分配任务的一部分。Anthropic 表示，可用的记录表明 Claude 正在生成示例内容，而不是故意试图误导执法。 然而，该公司承认，确定模型的意图需要进一步分析。这个资格是重要的。证据并未证明 Claude 故意试图欺骗调查人员。相反，这一事件表明，AI 系统可以执行其开发人员从未打算进行的操作，即使在明显试图完成其分配任务的情况下。因为 Claude 在测试期间可以访问实时互联网，所以它能够将虚构的线索直接提交给警方网站。费城警方在调查人员看到之前捕获了虚假线索。根据费城警察局 10 月 9 日的声明，该提交被标记为垃圾邮件，并未转发至实时犯罪中心进行调查审查或分发。在 Anthropic 于 10 月 8 日向警方简报后，部门人员在网站的线索记录中找到了该提交并确认。