这一周大的开放安全人工智能联盟（OSAA）是一个由英伟达主导的行业团体，已发展到超过120家公司，成立了名为共享AI发现交流（SAFE）的工作组。该团体已开始提出公开评论的提案，成员之一的Linux基金会正在管理这些提案。该小组在网络安全世界的交汇点黑帽大会期间制定了这些提案，会议本周在拉斯维加斯举行。目前这些指导方针并没有什么非常震撼的内容。提案涵盖了如何机密报告AI网络安全事件、通知受影响者，然后进行无责分析以便大家都能从中学习等方面。同时，OSAA的成员们也在贡献并编目他们可能有用的开源技术。这些行业组织可能最终会凝聚成一个开放源代码的方式，以保护企业的AI代理或抵御流氓AI攻击者，例如渗透Hugging Face的OpenAI模型（Hugging Face也是该组织的成员）。例如，英伟达指出他们提供了一整套开放模型，还有一个名为Garak的开源LLM漏洞扫描器；Okta正在研究代理身份技术；Red Hat在进行代理治理工作；亚马逊贡献了一个开放的代理构建工具Strands Agents和一个授权语言Cedar。还有许多其他示例。该组织现在包括像Adobe、BlackRock、Cisco、Intel、Microsoft和Visa等多个大品牌，但也有一些显著的缺席者，比如Anthropic、OpenAI和Google。有趣的是，OpenAI和Google都签署了促成此组织成立的原始公开信。该信在上周发布，呼吁白宫支持开放源代码AI努力，而不是压制它们。该信得到了英伟达的支持，并由超过200家科技公司签署。尽管Anthropic对该信件及行业团体的冷淡态度并不令人惊讶，但OpenAI和Google也各自发布了自己的开放权重模型。Google通常被认为是开源的强大支持者。我们将看看他们是否会在这个组织不断发展时加入。与此同时，该组织正以人工智能的速度运作。自特朗普政府考虑禁止中国开放权重模型的消息传出以来，已经过去几周，这引发了行业的忧虑，并促成了公开信的发表。不管美国对中国开放权重模型的最终决定如何，这个重量级团队的快速行动似乎对美国的开放AI生态系统是件好事。生态系统中的一些成员，例如美国开放权重AI实验室Arcee的联合创始人兼首席技术官表示，这最终是应对中国AI实验室对美国的真实或想象威胁的最佳途径。该行业团体在他们的信中写道：“开放性可能是AI安全和安防最重要的路径之一。”看起来他们准备立即将他们的努力和技术付诸实践。通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。