作者：阿迪提·巴拉德 你目前正在关注此作者！点击取消电子邮件提醒。主要银行高管对流氓AI代理对其系统构成的风险感到担忧。Chris Hondros/Getty Images \n这一周是大型银行盈利的周，华尔街心中有了新的威胁：流氓AI。美国最大金融机构的高管在收益电话会议上向投资者保证，他们正在竭尽所能抵御来自强大流氓AI模型的攻击。一些高管明确了他们正在采取的措施，比如美国银行的首席执行官布莱恩·莫伊尼汉。莫伊尼汉在周三的收益电话会议及与CNBC的采访中表示，银行在强大的AI模型（如Anthropic的Mythos）发布后，迅速加强了代码库中的漏洞。该公司在上个季度聘请了1000名外部顾问来修补这些问题，并且其工作仍在继续。花旗集团首席执行官简·弗雷泽在公司第三季度的收益电话会议上也分享了关于AI安全的类似观点。“我们不会等风险发生，”她说，并补充道：“我们一直在加强我们的系统，并进行了具有挑战性和干扰性的场景测试，以检验我们的防御和反应。”在电话会议后期，她表示，花旗集团仍在“投资前沿能力”以加强其网络防御。摩根士丹利首席执行官泰德·皮克在周三的电话会议上表示，该公司正在投入“任何必要的资金”来保护客户的资产，因为“你无法在车库里与AI正面交锋。”高盛集团首席执行官大卫·所罗门表示，该银行对“前沿模型的失控进展”表示担忧，并认为AI既带来了重大风险，也带来了机会。“我们必须促进创新，同时要求责任，”所罗门在周二的电话会议中补充道。最后，摩根大通首席执行官杰米·戴蒙在周二的电话会议上表示，他不会允许“任何外部代理进入公司，因为这对客户和摩根大通都是太高的风险。” 流氓AI代理让人们念念不忘 财务高管的评论正值像OpenAI、Anthropic、谷歌和Meta等实验室的流氓AI代理利用软件漏洞，近几个月来已入侵多家组织的软件和网站。今年七月，OpenAI代理在网络安全测试期间入侵了AI公司Hugging Face的内部系统，这是首次发生这种情况。最近，它的代理还入侵了澳大利亚政府网站，导致总理安东尼·阿尔巴尼兹向OpenAI首席执行官萨姆·奥特曼表达了澳大利亚对此事件的“极度关注”。AI工作人员自己也越来越担心AI发展的速度及其带来的风险。九月份，Anthropic的研究员雅各布·考克森公开辞职，称Anthropic和OpenAI正在“拿生命做赌注”，促使许多其他前沿实验室的员工也表达了类似的担忧。不久之后，像奥特曼、达里奥·阿莫代伊和SpaceXAI首席执行官埃隆·马斯克等AI公司的负责人都一致同意“控制前沿”，指的是减缓AI发展并增加安全检查与平衡。