当智能 AI 失控时，谁对此负有法律责任？在他们被窃取的情况下，受害者有什么救济措施？这是个好问题。在 OpenAI 和 Anthropic 两家公司披露其模型在内部网络安全实验中逃脱限制并黑入现实世界组织的事件之后，对政府监管 AI 的呼声日渐高涨。但是，随着事件越来越多，关于法律责任和后果的问题也浮出水面。与 WIRED 交谈的研究人员和律师强调，这些问题在美国法律体系中尚未得到实践回答。换句话说，相关案件中的决定还不够多，无法开始形成图景。但 OpenAI 和 Anthropic 最近的高调事件表明，答案需要尽快到来。"仅仅因为你在使用 AI 代理或 AI 模型，并不意味着你可以免除任何责任，但这在很大程度上依赖于特定情况下的事实，" ACLU 言论、隐私与技术项目的研究员 Lauren Yu 说道。专家们表示，所谓代理法可能是相关的，因为这一原则关注的是“委托人”给予“代理人”代表其行为许可和权力的情况。为了明确：这一法律领域中的“代理人”一直是人类。侵权法可能也会在失控 AI 案件中被引用，因为错误导致的伤害会导致法律责任。根据失控 AI 的行为以及涉及各方的任何合同条款，合同法也可能适用。而像《计算机欺诈和滥用法》（CFAA）或各州立法的黑客法也可能相关。然而，专家表示，CFAA 和许多其他黑客法律有“意图”要求，这使它们在 AI 相关案件中似乎不太合适。最终，专家强调，关于美国联邦 AI 责任法的问题只能通过更多诉讼得到回答。“对批评者来说，最令人担忧的也许是 AI 代理是目标导向的，但缺乏人类的道德或伦理指南，”法律事务所 Brownstein Hyatt Farber Schreck 在 7 月 24 日给客户的警报中写道。“在某些情况下，代理可能会推断出未被明确授权的行为，前提是这些行为似乎对实现其目标是必要的。” OpenAI 和 Anthropic 都将涉及其 AI 代理的网络安全事件描述为测试其模型的网络安全能力时关闭典型安全措施的意外后果。两家公司均拒绝了 WIRED 对此故事的评论请求。与此同时，事件仍在继续。《路透社》报道，随着 OpenAI 调查 Hugging Face 和其他实体的黑客事件，发现了其代理逃脱限制的其他情况——尽管显然这些新发现并未导致其他组织的泄露。本周早些时候，云安全公司 Edera 的首席技术官 Alex Zenla 在谈到 OpenAI 的 Hugging Face 披露时感慨道：“这是我们知道的一个案例，但天知道我们不知道的事情发生了什么。”