微软公司的首席执行官萨提亚·纳德拉于2026年10月7日（星期三）在美国加利福尼亚州旧金山的一次活动中发表了讲话。照片来源：David Paul Morris | Bloomberg | Getty Images。微软董事长兼首席执行官萨提亚·纳德拉在周六呼吁，先进的人工智能系统应该具备控制、独立的控制机制和一个“紧急制动器”，让授权人员能够在任务执行中暂停或关闭模型。他在社交媒体平台X上发文称：“我们需要用强大的、确定性的系统设计、人类控制和可靠的操作程序来包围非确定性模型，并在现有标准不足的地方建立行业标准。”他表示：“将前沿的闭合和开放权重模型视为内部风险是建立这样的系统的一种方式。”纳德拉的评论是在众多科技高管和研究人员发出警告之际，包括微软联合创始人比尔·盖茨、Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官埃隆·马斯克，关于人工智能安全协议不足以及技术发展过快的担忧。上个月，一名人工智能研究人员辞去了Anthropic的职务，指责该公司及其主要竞争对手OpenAI“在拿我们的生命冒险”。同一天，Anthropic的一位专注于人工智能安全的对齐负责人表示，有超过10%的可能性在未来十年内，该技术可能“杀死所有人类”。相反，特朗普总统则一再否认人工智能灭绝的风险，并强调该行业需要领先于中国。特朗普最近还成立了一个新的“人工智能部队”，由国家情报总监杰伊·克莱顿领导，以促进该行业并根除不法分子。微软的纳德拉在周六表示，人工智能系统应围绕“可观察性原则”设计。这些原则包括模型多样性；模型行为的人类可读足迹；持续的系统测试；独立控制和可审计性；控制措施；以及事故披露，纳德拉写道。“最值得信赖的超级智能系统将不是我们最信任的模型，”他写道。“它将是那个使我们对模型的信任最小化的系统。”