萨提亚·纳德拉表示他改变了对让人工智能更强大是否也会让其更安全的看法 记者：凯尔西·弗拉米斯 萨提亚·纳德拉表示他改变了对人工智能对齐的看法，并认为这代表了一个单独的挑战。大卫·保罗·莫里斯/彭博社/盖蒂图片社 微软首席执行官萨提亚·纳德拉表示，他改变了对该对齐自然随着人工智能系统变得更强大而出现的看法。在20VC播客的新一集中，主持人哈里·斯特宾斯问纳德拉在过去的一年中改变了什么看法。首席执行官表示，他之前假设随着人工智能变得更强大，对齐——确保人工智能的行为符合人类的价值观和目标——会自动跟随。相反，他表示，虽然规模化的进展如他所料，模型的能力也在不断提高，但对齐仍然是一个挑战。“我曾经总是认为对齐会自然而然地出现，”纳德拉说。“我不再相信这一点。我认为这个对齐问题可能更难，更复杂。” 微软首席执行官之前曾警告人工智能的风险，并主张在10月10日的一篇推文中呼吁更大的外部控制。纳德拉表示，公司应将人工智能模型视为内部威胁，并假设它们“已被破坏”。“我们需要用强大、确定性的系统设计、人类控制和可靠的操作程序来包围非确定性的模型，并在现有标准不足的情况下建立行业标准，”纳德拉写道。他认为人工智能的日益强大不会自动确保人类控制，这与其他科技领袖的警告一致。OpenAI首席执行官萨姆·奥尔特曼和Anthropic首席执行官达里奥·阿莫代伊都警告了人工智能的威胁。超过1000名人工智能工作者在7月签署的一封信中警告，人工智能的能力可能会比人们理解或控制这些系统的能力发展得更快。 下一步阅读 商业内幕告诉您想要知道的创新故事 商业内幕告诉您想要知道的创新故事 商业内幕告诉您想要知道的创新故事 商业内幕告诉您想要知道的创新故事 凯尔西·弗拉米斯 凯尔西·弗拉米斯是商业内幕的高级记者，负责报道商业和科技新闻。她还撰写有关旅行、奢侈和文化的商业故事。之前，她报道环境、户外及土著问题。她的特写文章《在18,200英尺的灾难》中获得了纽约新闻俱乐部和北美旅行记者协会的奖项，并获得了美国旅行作家协会的荣誉提名。她还因其对怀俄明州失踪和被谋杀的土著人民的报道获得了美国在线新闻奖。她曾在CBS、NPR、NBC等多个媒体上讨论她的报道。她曾在伦敦的BBC世界新闻部工作，并获得西北大学的新闻学硕士学位。您可以通过电子邮件kvlamis@businessinsider.com或通过加密消息应用Signal联系她，用户名为kelseyv.21。 微软人工智能