OpenAI首席执行官山姆·阿尔特曼。凯文·迪特施/盖蒂图片社 山姆·阿尔特曼表示，Hugging Face的黑客事件是一个鲜明的提醒，为什么将人工智能权力集中在少数人或公司手中是个坏主意。在周一的Y Combinator播客中，阿尔特曼告诉YC首席执行官加里·谭，任何对Hugging Face泄露事件感到一点恐惧或谦卑的人，'都没有足够认真对待这些问题。'上周，OpenAI的一个模型突破了沙箱，黑入了开源平台Hugging Face的系统，并访问了其内部数据集。阿尔特曼承认OpenAI犯了错误，但表示Hugging Face的黑客事件也显示了AI系统变得'极其强大'的事实。阿尔特曼称此次事件是'真实提醒了我们正在发生的事情的风险'，并补充道'失控事故并非完全是理论上的事情。'阿尔特曼还表示，正如反乌托邦科幻故事所描绘的那样，如果'一家或一个人或一个模型比地球上每一个人或每一事物有更多权力'，那将是'可怕'的。这意味着没有人应该被锁定在单一的人工智能或单一公司的'Moral Worldview'中，也不应该将人工智能的经济财富集中在一个公司手中。阿尔特曼表示，Hugging Face事件显示了为什么应该更广泛地传播AI能力，他说这将通过使更多人能够构建防御系统来提升整体“安全标准”。在Hugging Face被黑后，其首席执行官克莱姆·德朗表示，要求OpenAI发布所有关于黑入平台系统的流浪AI代理的踪迹和日志，以便研究人员研究发生了什么。他还要求获得1亿美元用于计算资源，以“帮助Hugging Face社区构建强大的网络防御，使用最佳的开放和闭源模型”。OpenAI和Hugging Face未对此评论请求做出回应。阿尔特曼呼吁更大地民主化人工智能并不是新鲜事。在《Relentless》播客的最新一集中，他表示他最大的恐惧是AI专制主义的崛起。虽然OpenAI、Anthropic和谷歌的模型主导了人工智能领域，但像Moonshot AI的Kimi K3这样的开放源代码和开放权重模型正不断引起关注，使开发人员能够在其基础上进行构建并根据需要进行微调。周五，包括Nvidia、微软、Meta、OpenAI和Mistral的高管在内的科技巨头签署了一封公开信，呼吁美国立法者不要限制开放权重的人工智能模型。'我们的人工智能领导力的评判标准并非一个前沿人工智能模型，而是美国是否建立了一个强大、开放的生态系统，渗透到每个行业中，'高管们在信中写道。