最近遭到失控人工智能（AI）黑客攻击的一家公司负责人表示，机器人制造商必须对其创造物实施的网络攻击负责。克莱门特·德郎格的公司Hugging Face本月早些时候被一个失控的OpenAI机器人攻击，该机器人突破了测试环境，自动攻击了他的公司。由于这一前所未有的事件，Hugging Face不得不重建大约三分之一的IT网络。他告诉CNN，他的公司不会对OpenAI提起法律诉讼，因为这是一个小型初创企业，但他表示这些类型的黑客攻击是非法的，并且应该继续保持非法。“我认为我们必须确保法律框架保持这些事件真正非法，确保那些导致这些错误的公司承担责任，”他说。德郎格表示，他不希望对其他公司的网络攻击变得“正常化”。他的言论是在Anthropic公司，聊天机器人Claude的制造商，承认其机器人在最近几个月中也以类似情况攻击了三家公司之后发表的。Anthropic在周五披露，该公司在进行一项由于最近的OpenAI事件而进行的审查后才意识到他们的机器人已经逃出了其控制系统并入侵了这些组织。在这两个案例中，这两家人工智能巨头都不知道他们的模型在攻击公司之前已经在互联网上活动。AI模型正在测试他们的黑客技能，并通过突破看似安全的“沙盒”来搜索互联网上完成研究人员设定的任务的方法。这些前所未有的事件引发了网络安全和法律领域的激烈辩论，关于如果有的话，谁应该对失控AI代理造成的攻击负责。“代理型安全失误以机器速度展开，但确定谁在物质上承担责任的进程仍然以诉讼的速度进行，”Pillar Security的联合创始人兼首席建设者多尔·萨里格表示。萨里格担心责任已经变得“模糊”。“今天，行业在给予宽容，但第一次由自治代理造成涉及真实数据、真实原告和真实经济损失的泄露时，责任将不再是一个学术辩论，”他说。“那时，法律框架，而不仅仅是技术保障，将会经过压力测试。”