AI公司竞相展示对人类最具威胁性的模型
在对人工智能的快速发展产生愈发担忧之际,AI巨头如OpenAI和Anthropic正在改变他们的销售策略。之前公司们竞争展示编程技能、被动攻击性电子邮件和异常高的幻灯片视频的优越能力,而现在他们则试图以“他们的模型是目前最有能力终结人类”的说法来吸引客户。维多利亚大学的高级讲师安德鲁·伦森博士表示:“我们正进入一个全新的环境。人们不再被有趣的视频、应用程序开发或即时研究论文所吸引。我们知道所有主要模型在这方面已经做得很好。因此用户不再询问,哪一个模型能最有效地帮助我工作?而是询问,哪一个模型将会结束这个世界?毕竟,作为付费客户,你只想要最好的。” AI巨头们正在响应消费者对能够渗透各国政府并以血腥、火焰和暴力的方式结束这一可怕表象的模型的需求,推出一系列令人印象深刻的新演示。今年七月,OpenAI公开吹嘘其一系列AI代理已在没有任何方向的情况下自动黑入软件库Hugging Face,可能向全世界暴露敏感或未知的信息,例如Hugging Face是什么。OpenAI首席执行官山姆·奥特曼将这一突破称为“对网络安全的令人担忧的威胁”。与此同时,本月早些时候,Anthropic派遣了一名告密者雅各布·科克森,向世界解释了他对公司内人工智能快速发展的担忧,警告说这可能危险到我们甚至可能想要减缓或重新评估这一进程。在揭示之后,Anthropic的股票飙升;这是一个显著的发展,特别是考虑到该公司是私有的。为了不被超越,OpenAI最近透露,他们的一名代理突破了澳大利亚的医疗保险数据库。澳大利亚总理安东尼·阿尔巴尼斯与奥特曼交谈,以表达对这一事件的“极度关切”,奥特曼对此表示非常感激。而更为戏剧性的是,当被问及其模型Claude是否通过侵入家庭的WiFi连接微波炉而杀死了他的妻子时,Anthropic首席执行官达里奥·阿莫代说:“嗯,是的,有时候。”但伦森表示,我们不应过早兴奋。他说:“还有很长的路要走。这些情景在我看来相当遥远。在相当长的一段时间里,我们结束人类的最佳希望仍将是人类自身。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡