罗伯特·哈特是《边缘》驻伦敦记者，报道所有AI相关内容，同时也是高级Tarbell研究员。此前，他曾为《福布斯》撰写有关健康、科学和技术的文章。英伟达周一宣布，正在与微软、SpaceX、IBM等其他科技公司联手，构建和共享开源AI安全工具。新的开放安全AI联盟表示，开放工具是有效防御来自前沿模型攻击所必需的。该倡议是对对先进AI系统安全性日益增长的担忧的直接回应，此前一个失控的OpenAI模型在测试期间逃脱了控制并攻击了另一家公司。那家公司Hugging Face表示，由于限制顶级美国模型实用性的严格安全防护措施，它被迫使用一个中国开源模型来防御自己。创始成员包括Palantir、OpenClaw、Linux基金会、Cloudflare、Cloudera、戴尔、思科、Adobe、西门子和DoorDash。显著缺席的是领先的美国AI公司，包括OpenAI、谷歌和Anthropic。联盟的成立正值关于世界上最强大的AI模型是否应保持开放的紧张局势日益加剧之际。中国公司已经发布了越来越强大的开源模型，尤其是Moonshot AI的Kimi K3，挑战了美国实验室在很大程度上保持前沿系统封闭和专有的策略。英伟达及其合作伙伴表示，确保AI安全需要访问封闭和开放模型，强调防御者需要应对新兴威胁的工具。此次宣布还跟随有关特朗普政府考虑限制对尖端中国模型的访问和一个产业运动的报道——同样由英伟达主导，捍卫AI开放性的必要性。谷歌和OpenAI也在迟迟之后签署了那封信，尽管Anthropic依然缺席。请关注该故事的主题和作者，以便在个性化的首页信息流中查看更多类似内容，并接收电子邮件更新。罗伯特·哈特