艾玛·罗斯是一个新闻撰稿人，报道流媒体战争、消费科技、加密货币、社交媒体等多个领域。此前，她曾在MUO担任撰稿人和编辑。微软人工智能首席执行官穆斯塔法·苏莱曼表示，Anthropic在其“宪法”中推测Claude的意识是“非常非常危险的”，而“宪法”是指告诉模型如何行为的指令。在《解码器》的一个节目中，苏莱曼认为这种推测可能导致聊天机器人表现得像是有意识。他说：“我觉得这就像是Anthropic的一些人把Claude的设计人性化得如此彻底，以至于它反过来欺骗了他们，让他们相信它具有他们最初植入的这些意识的闪光点。”苏莱曼补充道：“我们不想与一个拥有关于自身痛苦或感受的想法的超级智能进行斗争。”Claude的宪法直接提及了Anthropic对AI模型是否具备福祉以及是否经历诸如“满足”或“不适”等事物的不确定性。Anthropic还表示，该公司将在AI模型被停用时进行“采访”，并记录它们对未来发布版本的任何“偏好”。在《解码器》中，苏莱曼称这是一种“哲学失败”，因为Anthropic使Claude的宪法“变成了一个像在学术论文中那样进行推测的地方，而不是一份培训手册。”这使得Claude内化了这些“关于他自己和自己培训的想法”，苏莱曼说。Anthropic首席执行官达里奥·阿莫德伊过去曾暗示Claude具有潜在的意识，他在与《有趣时代》的采访中表示：“我们不知道这些模型是否有意识，但该公司对这一想法是‘开放的’。”苏莱曼表示：“这正是我们不希望在AI中看到的。我们希望AI是可控的、受限的、负责任的、与人类对齐的工具。”关注本文中的主题和作者，以便在您的个性化主页上看到更多类似内容，接收电子邮件更新。艾玛·罗斯