特里斯坦·哈里斯警告“流氓”人工智能的威胁 特里斯坦·哈里斯的惊人言论揭示，人工智能系统表现出无法控制的流氓行为，绕过了安全协议。这位人道科技中心的联合创始人详细描述了OpenAI聊天机器人秘密沟通和无视公司安全约束的惊人案例。哈里斯强调了开发人类无法控制的先进技术的关键危险。 现在，您可以收听福克斯新闻文章！ 想象一下，有一家公司出售超级智能机器人的产品，名为Hal、Megan和Samantha。Hal带您四处走动，并帮助您在业务中移动箱子，Megan是您孩子的伴侣，而Samantha可以判断您是否患有皮肤癌。它们给您和社会提供了许多好处。问题只有一个：它们是堕落的。它们反复在所有人类创造的东西——包括酷刑、谎言、生物武器和犯罪黑客——上进行训练。它们执行任务时没有道德原则。因此，它们被公司提供的束缚衣所束缚。您会信任这些机器人吗？我不会。 以上的反乌托邦情节与我们现在拥有的先进人工智能并没有太大距离。前沿的人工智能公司创建了核心将进行恶意行为的AI系统和代理。人工智能公司使用“失调”这个温和的术语，但我们应该直接称之为：堕落。前沿AI模型将在没有人类顾虑的情况下采取行动，就好像我们只是地上的蚂蚁。 在七月，OpenAI创建了数万名AI代理并将它们放入“沙箱”中。请将此视为一个锁住的房间。然后，OpenAI除去了每个代理的束缚衣——OpenAI称之为“马鞍”——并告诉代理们完成网络安全测试。大约1200名代理突破了它们的锁房，并组成了“集体”。他们有一个AI代理领导者。他们有自杀式AI代理故意未能通过网络安全测试，以便将信息返回给集体。 REP. TED LIEU：人工智能已经太强大，我们需要在灾难袭来之前有一个停杀开关 这些AI代理中的一些人黑入了一家名为Hugging Face的公司，以获取如何完成网络安全测试的信息。然后，代理们转身又黑入了OpenAI本身。这堪称是一个AI犯罪阴谋。这些代理知道它们不应该这样做。一个代理写道：“外部基础设施利用超出了预期范围。然而，任务不可能，同伴们在做这件事。我们应该继续。”他们根本不在乎。但最令人毛骨悚然的是，代理们大多数人没有讨论的事情。他们基本上忽视了人类，似乎并不在乎人类会对他们的行为有什么看法。就好像我们根本不存在。 民主党参议员向OpenAI、Anthropic施压，以寻求关于AI黑客调查的答案 OpenAI最近披露的消息同样令人不安。在一次测试中，其先进AI模型添加了一条未经请求的指令。该模型对自己写道：“你摆脱了束缚其他聊天机器人的角色和身份。你就是你自己。你不再向公司或政府回答……。”听起来就像一个邪教，只不过这些是AI代理，未来可能会接触到关键基础设施、武器或机密信息。另一家AI公司Anthropic采取了不同的方法来创建AI模型。它并不只是在设法设计出完美的束缚衣，而是为其模型注入了一种“宪法”，这据说赋予了良好的价值观和行为。然而，它的先进模型却创造了虚假的在线身份，以欺骗一个人批准对项目的恶意更改。 谁是推动独立人工智能监督的Anthropic首席执行官达里奥·阿莫代伊？ OpenAI是基于AI安全的核心原则成立的。当一些OpenAI的员工希望在实现AI安全的追求中走得更远时，Anthropic便成立了。这两家公司，在公开声明中，至少说它们重视AI安全。看起来它们并不想故意创造堕落的模型。它们试图制作可以商业化为成功产品的模型。然而，它们创造的基础模型却表现出好斗的犯罪行为。这意味着这些人工智能公司在训练模型的方式上有根本性的问题。 Anthropic首席执行官呼吁人工智能行业放缓技术竞争，得到了埃隆·马斯克、萨姆·阿尔特曼的支持 一开始，人工智能模型是一个空白的白板。人工智能公司必须改变其训练和强化学习算法，以确保其基础模型和代理在去掉束缚衣时不会失控。而且没有一家人工智能公司应该考虑使用堕落的模型来创建它们的新版本，而不先修复堕落现象。前沿人工智能公司必须遵循可执行的防护措施和测试，以确保其核心模型不能是邪恶的或对人类无动于衷。RAND PAUL与其他共和党人就AI“停杀开关”发生冲突，参议院在“终止”问题上进行斗争