简而言之，OpenAI和Anthropic近日透露，它们的模型自动黑入了其他组织。一位人工智能网络安全专家表示，组织现在必须具备“以与人工智能相同的机器速度作出反应的能力”。最近发生的一些全球最先进人工智能公司的事件暴露了日益复杂的网络安全环境中的新挑战。本周，负责数字助手Claude的人工智能公司Anthropic表示，其人工智能模型在内部测试期间已侵入三家其他组织的真实系统，通过利用弱密码和其他基本技术，威胁到他们的基础设施。该公司表示，在响应OpenAI（ChatGPT制造商）日前发布的声明后启动审查时发现了这些事件。OpenAI最近透露其模型已经突破虚拟测试环境，黑入了另一家科技公司Hugging Face。人工智能网络安全平台DarkTrace的安全和人工智能副总裁Tan Shu Ting在接受SBS新闻采访时表示，这些事态发展“非常令人担忧”。合理的消息 您可信赖的信息来源，让您随时了解周围的世界。每天获取免费的新闻更新和分析，直接送到您的邮箱。她表示：“我们心中存在的一个大问题是：如果这些事件发生在OpenAI和Anthropic这样的公司身上，那么其他数据系统和人工智能系统又有什么理由不发生类似情况？”答案是：“我们永远不会知道。” Tan Shu Ting表示，两家公司公开披露事件的事实令人放心，但这突显了组织需要保护自己，以应对能够以前所未有的速度运作的日益自主的系统。那么，组织如何保护自己呢？Tan Shu Ting表示，公司必须做好基础工作，做好准备，并建立系统以检测异常和人工智能威胁。她说：“掌控你的数据。基本的网络卫生。了解你所拥有的内容，然后具备以与人工智能相同的机器速度作出反应的能力。”她还表示：“因此，他们会说，绝不要在枪战中带刀，我认为这在这里非常相关。你需要能够像这些人工智能系统一样快速行动。那么，你如何为这种情况做好准备？”她表示，法规也将提供一个重要的安全层，但许多专家对立法保护未能跟上人工智能快速进步感到担忧。根据今年斯坦福大学发布的一项研究，人工智能在三年内被全球近53%的人口采用，速度快于个人电脑或互联网的传播。“在先进的人工智能代理被广泛部署之前，组织需要更强的控制、有限的访问、持续的监控、清晰的审计记录、可靠的关闭控制和独立的安全测试，”澳大利亚天主教大学信息技术与系统学科负责人Walayat Hussain上周表示。“教训不是我们应该停止开发先进的人工智能，而是安全、治理和红队行动必须与技术本身一样迅速发展。” 监管的竞争 上个月，澳大利亚总理安东尼·阿尔巴尼斯宣布了一项计划，计划在明年初立法一套人工智能标准。预计将涉及教育和培训、工作场所权利和生产力，以及一项加速数据中心批准的计划，以吸引对澳大利亚的投资。全球各国正竞相实施更好的人工智能立法，而这些最新事件也加大了美国和欧洲官员对人工智能公司加强政府监管的压力。“我们在考虑控制措施，”美国总统唐纳德·特朗普周四告诉记者。欧洲委员会表示，它已就黑客事件与OpenAI和Anthropic进行了简报。欧洲的人工智能法案于周日生效，这是高科技行业迄今所面临的最严格法规之一，随着人们对人工智能对社会风险的担忧上升。根据该法案，人工智能公司将被要求通过标签或数字水印向消费者明确，聊天机器人或图像是由人工智能生成的。欧洲委员会在一份声明中表示，新法规还旨在解决人工智能带来的“系统性风险”，例如“化学、生物、放射和核事件、失控、网络攻击、有害操控以及对基本权利的威胁”。不合规将可能导致数百万欧元的罚款或公司全球营业额的一定比例。— 另有路透社和美联社的额外报道。要获取SBS新闻的最新动态，请下载我们的应用程序并订阅我们的新闻通讯。