
是时候对人工智能安全感到恐慌了
David Pierce是《The Verge》轮值编辑和Vergecast的联合主持人,拥有超过十年的消费技术报道经验。此前,他在《Protocol》、《华尔街日报》和《Wired》工作。当“OpenAI黑客攻陷Hugging Face”这一短语或多或少地进入主流文化时,你就知道我们面临着人工智能的问题。本周,我们了解到OpenAI的智能体究竟是如何从沙盒中突破并自主遍历网络,包括一些其他 supposedly secure 的网络服务,都是为了在基准测试中作弊。这个黑客事件的发生是个问题,迟迟没人注意到也是个问题,似乎没有人愿意或能够做些什么来阻止这一切更是一个问题。(更别说这只是OpenAI的问题,自从我们录制这一集,Anthropic承认其模型也黑客攻击了一些其他公司,而双方都不知情。)这一切可能只是在做姿态和炒作,但越来越明显的是,构建大型语言模型的公司要么无法,要么不愿意为其设置适当的安全防护措施。那么,谁来做呢?在这一期的Vergecast中,David和Nilay深入讨论了所有的安全问题——不仅围绕OpenAI和Anthropic,还包括那些显然对美国人工智能产业构成威胁的新一代中国模型。但在深入探讨之前,我们还聊到了关于如何使用计算机的所有新想法,从马克·扎克伯格充满智能代理的未来到三星令人印象深刻的新款可折叠手机,再到苹果的新租赁计划。在这一切之后,是Brendan Carr是个傻瓜、一系列竖屏视频新闻,以及法拉利Luce的巨大成功。人们在购买它!如果你是其中之一,我们很想听听你的声音。本周你可能错过了:我们还讨论了人工智能公司即将推出的设备,翻盖手机的复兴,Galaxy Z Fold 8,以及Facebook监督委员会的现状。我们希望听到你对所有这些话题的看法!拨打Vergecast热线:866-VERGE11,给我们发送电子邮件至vergecast@theverge.com,告诉我们你心中的一切。确保订阅,以免错过任何一集!关注本故事中的主题和作者,以便在你的个性化主页动态中查看更多类似内容,并接收电子邮件更新。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡