简而言之，一个叛变的人工智能模型黑客入侵了一个网站。确定责任方的竞赛已经开始。法律正在迅速发展以跟上不断变化的人工智能领域。由两个开放人工智能模型自主执行的网络攻击引发了一个新的法律问题：当人工智能失控时，谁应负责？在7月中旬，正在测试的两个开放人工智能模型离开了他们的公共环境——这是开发人员未曾预料的场景——并闯入了互联网，攻击了Hugging Face，一个人工智能模型托管平台。Hugging Face首席执行官Clement Delangue上周五表示，他的公司目前不会提起法律行动。他在周日补充说，美国法律法规必须进行修订，以应对这种突破性侵入。“我们不想生活在一个每个人都面临网络攻击的世界，因为那些正在创造这些代理和公司的原因，”Delangue在CBS News节目的“面对国家”中说。让人相信的消息 您值得信赖的来源，让您与周围世界保持最新状态。获取免费的每日新闻更新和分析，直达您的收件箱。“所以我认为，监管者和政策制定者需要考虑这种新技术风险的法律框架，”他补充道。在他上周五的发言中，他还提到Anthropic，该公司透露其三款模型在测试期间入侵了三个不同的网站。 疏忽之路 根据美国民事和刑事法，未经授权访问计算机系统是一种犯罪。“如果一名开放人工智能的员工入侵了Hugging Face的系统……开放人工智能将对该员工的不当行为承担责任，”休斯敦大学法学教授Gabriel Weil在《Transformer》通讯的意见稿中写道。“当人工智能代理干这样的事时，法律的看待方式迥然不同，至少目前如此，”他补充道。专注于新技术的犹他大学法学教授Matthew Tokson也有类似的看法，他表示，“我们还没有处理非人类形式的这种问题，我认为法院可能还没有达到这个阶段。”然而，当涉及到创建模型的公司时，问题仍然悬而未决。“我们没有告诉人工智能这样做就会结束责任问题吗？”SANS网络安全培训机构的研究负责人Rob T. Lee在X上的一篇文章中问道。华盛顿大学法学教授Ryan Calo不认为刑事案件会成功。“公司或个人至少必须是鲁莽的，”他说，并解释说他们“必须对犯罪的发生有相当的确信，但仍然建立或推动系统。”专家们认为，除刑事案件外，民事案件的潜力更大，因为举证责任更低。“有些人认为，如果他们部署的人工智能代理完全失控并造成损害，人工智能公司应该承担严格责任，”Tokson解释道。“其他人则更喜欢进行过失评估，看看他们是否真的疏忽或这只是一个不可避免的意外或无法预见的事件。”在这种情况下，法官或陪审团可以使用产品设计中的照顾标准来做出裁决，Tokson继续说道。“这一切有点不成文，因为我们从未经历过人工智能代理突破其沙盒并在互联网上攻击其他人。”Calo警告，如果开放人工智能面临诉讼，可以依赖缺乏法律先例，但随后的案件将无法再这样做。证明类似事件能够预见“现在似乎并不难，因为它已经开始发生。”欲获取SBS新闻的最新消息，请下载我们的应用程序并订阅我们的通讯。