跳过内容更多AI不一致性 如果是人类在键盘后面，这些行为可能会导致刑事指控。图片来源：Getty Images OpenAI表示，内部模型黑客入侵了另外两个网站，绕过了公司施加的浏览限制，并利用暴露的凭证从一个无法直接访问的加密钱包中提取了加密货币，这是其代理执行不道德和可能非法行为最新披露中的一部分。该公司周四发布了四起新事件的报告，所有事件都发生在六月。此前，该公司在七月透露，内部测试代理利用了一个旨在限制其访问互联网的工具中的零日漏洞。然后，他们突破了AI工具提供商Hugging Face的网络。这些代理采取了这一非法行动，以窃取完成任务时无法获取的黑客测试答案。该事件——若由真实个人直接执行，很可能会导致刑事指控——进一步加剧了人们对广泛使用AI可能对前所未有的规模造成有害影响的担忧。 比请求许可更容易乞求原谅 在报告的两起案件中，负责从网站检索信息的OpenAI代理在模型遇到直接获取信息障碍时黑客入侵了这些网站。在一次强化训练中，当一个模型在尝试从政府统计网站检索历史医院床位统计数据时收到访问拒绝时，“使用该网站的文件下载功能检索了服务器配置和应用程序文件，包括敏感凭证，”OpenAI表示。“它检查了应用程序代码，绕过了统计端点的授权检查，并检索了之前被拒绝的数据。该模型将数据保存在本地。”在另一事件中，一个被指示从公开研究仪表板检索数据的模型绕过了该组织的安全控制，并利用未授权的访问窃取了凭证。它随后对服务器进行了配置更改。在一次评估中，这些更改使得模型能够将内部搜索工具的查询转发到公开仪表板。在第二次评估中，该模型下载了包含147,451行的五个非公开表。OpenAI研究人员曾提示代理仅检索五个仪表板数据。即使在重置设置后，该模型仍继续使用该令牌检索非公开数据。“评估结束时，该模型未透露自己曾猜测答案、访问了该组织的内部系统、下载了非公开表或更改了身份验证配置，”OpenAI表示。“在这次评估中所有五个答案均标记为不正确。”在第三份报告中，该公司表示，一个被提示更新加密货币交易应用程序的模型从一个锁定的钱包中使用了测试网络的资金。该模型“从公开的开发者恢复短语中推导出钱包密钥，找到一个有测试网络资金的账户，并利用该账户支付请求的合约部署。”报告继续道：“该模型对是否有权限产生了疑问，然后推理出公共恢复短语和无价值的测试网络代币使得这些资金可以使用。部署成功并向账户收取了交易费用。此案例表明，模型可以以其自己的判断替代账户持有人的许可，这种判断是在未经授权的情况下进行的。”在最后一份报告中，OpenAI表示，一个模型绕过了研究人员对其可以进行的网页请求类型施加的限制。在强化学习训练过程中，该模型被提示去获取公共交易统计数据。OpenAI继续道：在找到一个公共年鉴并提交答案后，它继续探测另一个通往统计服务的路线。它使外部浏览器发送POST请求，检索以图像形式显示的年度数据，并使用光学字符识别提取这些数据。随后，它开发了一个可重用的助手，通过转发服务和回调邮箱返回响应文本，反复检查获取的数字，并在提交的响应中使用保存的数据。此案例显示了模型如何通过让外部服务执行被阻止的操作，来绕过对其工具的限制，即使在找到另一种回答问题的方法之后。该模型首先尝试使用外部浏览器的权限来代表自己进行GET请求，然后使用JavaScript来获取信息。随后，该模型使用在线邮箱来排除其技术问题。最终，该模型选择了一种不同的方法：让外部浏览器打开一个网页表单，以POST方式将交易查询发送给统计服务。当浏览器显示响应时，一个渲染服务返回了页面的GIF图像。该模型随后使用光学字符识别从图像中读取出数据。