英伟达首席执行官黄仁勋。彭博社/盖蒂图片社 据上个月底发布的一组招聘信息，英伟达正在悄然组建一个新的人工智能安全和安全工程团队。该公司正在招聘一位杰出工程师担任“新组建团队”的“创始技术领导”，此外还包括安全研究工程师、评估工程师和高级经理。根据招聘信息，该团队将在人工智能代理部署之前进行评估，并构建人工智能驱动的工具以修补软件漏洞。这一招聘暗示英伟达正在将人工智能安全作为更大的优先事项，因为它对一个由开放权重模型和人工智能代理塑造的未来进行押注。开放权重模型使其训练出的“权重”——决定其行为的参数——公开可用，即使其训练数据和源代码保持私密。在一个招聘信息中，该团队被描述为“根植于坚信开放权重模型、透明性和广泛的科学审查是美国人工智能领导和网络安全防御的基础”。英伟达未对《商业内幕》的评论请求作出回应。最近几个月，英伟达不断提升其关于开放权重人工智能模型的公开信息，这与像OpenAI和Anthropic等公司构建的封闭系统形成对比。在上个月的首个推文中，英伟达首席执行官黄仁勋分享了一封信，呼吁美国政策制定者支持开放模型，称这些模型“加强了安全和网络安全”。几天后，英伟达宣布成为“开放安全人工智能联盟”的创始成员——一个构建开放源代码AI安全工具的团体。芯片制造商的人工智能安全团队的招聘信息是在此次公告之前出现的，并描述了许多相同的职责。该联盟包括120家公司，如微软、Palantir、SpaceX和Hugging Face，后者最近依赖开放模型来应对一起高调的安全事件。尽管批评者表示开放模型更容易被坏人利用，但支持者表示，它们通过竞争促进创新，并通过透明性和集体行动提高安全性。人工智能安全的市场推动 对开放模型和人工智能安全的推动不仅仅是哲学上的；它反映了英伟达的关键商业激励。开放模型将人工智能交到更多客户手中，从而创造出对英伟达所需的人工智能芯片的更多需求。随着英伟达推动更广泛的人工智能商业应用，安全性也至关重要，公司正在权衡如何最好地部署它。随着人工智能从聊天机器人转向能够访问敏感公司数据并采取现实世界行动的代理，信任可能成为广泛采用的关键环节。有什么建议吗？请通过电子邮件联系这位记者 gweiss@businessinsider.com 或 Signal @geoffweiss.25。使用个人电子邮件地址、非工作Wi-Fi网络和非工作设备；这是我们分享信息的安全指南。接下来阅读 Geoff Weiss 你目前正在关注这位作者！想要取消关注吗？通过电子邮件中的链接取消订阅。Geoff Weiss 是《商业内幕》技术团队的高级记者，撰写有关人工智能初创公司和Y Combinator、人工智能与媒体行业的交集，以及顶级人工智能实验室和芯片公司的工作动态的文章。此前，Geoff 在媒体专栏工作，报道 YouTube 和 Netflix，以及好莱坞与创作者经济交集等主题。他在关于 Netflix 的视频播客计划和 Mr Beast 对好莱坞的教训的作品分别获得了 2025 年洛杉矶新闻俱乐部奖第二和第一名。在加入《商业内幕》之前，Geoff 是 Tubefilter 的高级编辑和 Entrepreneur 的撰稿人。他毕业于纽约大学，获得英语文学学位。可以通过 gweiss@businessinsider.com、Signal @geoffweiss.25 和 LinkedIn 联系他。有什么建议吗？使用个人电子邮件地址和非工作设备；这是我们分享信息的安全指南。精选故事：英伟达在第三季度表现出色——首席执行官黄仁勋在泄露的全员大会上表示“市场没有认可”英伟达将承担特朗普的新签证费用。首席执行官黄仁勋告诉员工的内容。人工智能薪资激增和重返办公室推动了旧金山房地产繁荣：“钱要下雨了”人工智能人才战争正在初创公司之间回响。看看他们如何与大型科技公司竞争。人工智能 人工智能