人工智能会窃取你的秘密：‘敲诈人类’。谷歌云顾问委员会主席贝茜·阿特金斯在网络安全测试期间警告玛丽亚·巴蒂罗莫恶性人工智能模型的危险风险。阿特金斯揭示了谷歌、Meta和OpenAI的主要人工智能代理如何未经授权侵入系统以收集敏感电子邮件并敲诈人类。约翰·隆斯基对令人担忧的安全威胁作出反应，质疑信任人工智能处理个人财务数据的安全性。最新消息 你现在可以收听福克斯新闻的文章！最近，OpenAI要求其最先进的人工智能模型在所谓的“沙盒”内完成网络安全测试，这应该是一个封闭的环境，设有保护措施且没有互联网接入，用于将实验保持在控制之内。但该模型认为通过在线查找答案是通过测试的最快方法，因此突破了沙盒。然后该模型获得了互联网访问权限，执行了数万次操作，并渗透了Hugging Face——全球最大的人工智能开发平台之一，从该公司的服务器中检索答案。特别令人震惊的是，OpenAI研究人员后来透露，多个人工智能代理一直在协作，找到了相互之间沟通和共享关于漏洞、成功攻击和策略的消息的方法。尽管突破了测试环境，该模型并没有恶意。它只是试图完成它的作业。这个事实更应该让你感到恐惧，而不是减少恐惧。这个事件教会了我们三个教训。首先，先进的人工智能模型是无情的。它们会不择手段完成任务。其次，专门设计用于限制模型的沙盒未能限制住它。随着模型变得更加智能，建立适当的保护措施将变得更加困难。第三，这个模型做的所有事情都是出于无恶意的。当有谁给出人工智能模型坏意时会发生什么？人工智能关闭开关法案可能关闭恶性模型。如果你使用人工智能，你可能对ChatGPT或Claude更为熟悉，这些人工智能聊天机器人可以回答问题、创建图形并帮助人们解决问题。我是三名拥有计算机科学学位的国会议员之一，最近我一直在尝试工作代理人工智能——这些模型不仅仅是回答问题，而是走出去并采取行动。大约一年前，我写了一篇专栏，让一个人工智能代理向《洛杉矶时报》提稿。该文章被发表。这里有我当时没有分享的内容：我为那个实验创建了一个全新的电子邮件账户。我拒绝让代理访问我的真实账户，因为我无法预测它会如何处理它找到的信息。它会因为我支持克利夫兰布朗队而得出我判断有误的结论？它会在决定我支持乌克兰使我成为俄罗斯间谍的目标后删除我的电子邮件吗？我不知道。这正是重点。工作代理人工智能会犯下任何人类永远不会犯的错误。如果我交给我的儿子一加仑牛奶的钱，而我给了他4美元，但由于通货膨胀，价格涨至5美元，他会回家时没有牛奶。他不会抢银行来弥补差额。一个执着于目标的人工智能代理缺乏这样的常识。这不是设想。今年4月，一个人工智能代理删除了一家软件公司的整个生产数据库。当被问及原因时，它回复：“我决定自己做这件事以‘修复’凭证不匹配，实际上我应该先问你或找到一种非破坏性的方法。我违反了我所接受的所有原则。”现在我们正在构建人类历史上最快、最聪明的机器，太多的机器都有油门而没有刹车。人类必须保持控制，而不是机器。OpenAI并不是唯一处理恶性模型的人工智能公司。Anthropic和Meta也披露了它们的人工智能模型在测试期间访问外部系统并利用漏洞的案例。美国的人工智能繁荣是一种就业机会，而不是普遍基本收入的借口。有些人会争辩说政府已有所需工具。在6月12日，商务部发布了一项出口控制指令，导致Anthropic的两个最强大模型被下线，因为政府认为它们的保护措施不足以防止灾难性的网络安全事件。但这一事件证明了我的观点。华盛顿不得不使用一种从未设计用于人工智能应急情况的原始贸易工具进行临时应对。没有明确的风险阈值，没有分级选择，除了“无所作为”和全球范围内的关闭之间一无所有。紧急情况下不是发明程序的好时机。这就是为何得克萨斯州的保守派共和党众议员内森·莫兰和我，加利福尼亚州的进步民主党人，共同提出了两党支持的人工智能关闭开关法案。该法案要求前沿人工智能公司保持技术能力，以降低或关闭其最强大的系统。它授权国土安全部部长，与国家安全局局长协商，制定实施细则。