美国银行雇佣承包商保护其软件免受强大的恶意人工智能代理的攻击
作者:阿迪蒂·巴哈拉德 你现在正在关注这位作者!点击取消邮件提醒。美国银行雇佣外部承包商来保护其软件免受强大人工智能的威胁。斯科特·奥尔森/盖蒂图片社 美国银行正在加强对强大人工智能模型的防御。首席执行官布赖恩·莫伊尼汉在周三的财报电话会议上告诉分析师,银行雇佣了1,000名额外员工——外部顾问——进行他所称的“神话修复”。他在周三接受CNBC采访时进一步阐述了这一点。他表示,强大 AI 模型的发展,例如 Anthropic 的 Mythos,暴露了银行代码中的某些软件漏洞,这些代码由内部员工和外部供应商使用。 Mythos 是一个被限制的人工智能模型,以其找到和利用软件弱点的能力而闻名,过去一年分阶段发布,带有保护措施。莫伊尼汉告诉CNBC,当前沿模型开始出现时,美国银行的高管们坐下来集思广益,快速填补漏洞。“我们在第二季度雇佣了1,000名承包商帮助我们进行修补工作,这些人到今天仍在这里,帮助我们,此外我们在这一领域还有3,000名员工,”莫伊尼汉告诉CNBC。这位高管没有透露该项目的确切成本。然而,他在财报电话会议上表示,美国银行在解决软件问题和应对导致12亿美元财政罚款的反洗钱合规问题上花费了“几亿加上”。美国银行在加强其软件安全方面的投资正值人工智能模型变得越来越强大和自主之际。像OpenAI、Anthropic、谷歌和Meta这样的实验室的人工智能代理已经入侵了包括人工智能公司Hugging Face和澳大利亚政府网站在内的多个组织的软件和网站。Anthropic的代理甚至向费城警方提交了一条虚假的谋杀线索。摩根大通首席执行官杰米·戴蒙此前曾公开反对Mythos,告诉彭博社,这个月早些时候,模型发布后网络安全风险“增加了10倍”。“人工智能创造了我们不知道的漏洞,而在这些事情出现之前,我们一直担心网络安全,”他补充道。 阅读下一个商业内幕告诉你想知道的创新故事 商业内幕告诉你想知道的创新故事 商业内幕告诉你想知道的创新故事 商业内幕告诉你想知道的创新故事 阿迪蒂·巴哈拉德 你现在正在关注这位作者!点击取消邮件提醒。阿迪蒂是商业内幕新加坡办事处的新闻记者。她报道奋斗文化和未来的工作,关注人工智能和技术如何重塑工作、职业和工作场所。她曾在《海峡时报》工作,为新加坡新闻部撰写突发新闻故事。她在南洋理工大学学习了传播和商业。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡