作者：西博尔·斯皮尔莱 您目前正在关注此作者！想要取消关注吗？通过您电子邮件中的链接取消订阅。 和凯尔西·弗拉米斯 您目前正在关注此作者！想要取消关注吗？通过您电子邮件中的链接取消订阅。 Anthropic首席执行官达里奥·阿莫迪。彭博社/盖蒂图片社。Anthropic最新发布的AI引发了关于其新模型将做什么和不做什么的争议。周二，Anthropic推出了Claude Fable 5和Mythos 5，这是其期待已久的“ Mytho级”模型。与发布同时，该公司披露了两个不寻常的安全措施：当模型怀疑用户正在进行前沿AI研究时，它们可能会秘密提供较低级别的帮助，并且某些请求会被自动转发到能力较弱的模型。在一份系统卡中，Anthropic表示，这些措施旨在降低强大AI系统帮助用户开发竞争前沿模型或加速危险能力的风险。批评者表示，然而，Anthropic的安全措施可能会使研究人员处于不利地位，将权力集中在领先的AI实验室，并在用户不知情的情况下降低响应质量。以下是来自AI、网络安全和政策领域的聪明声音对Anthropic最新举措的看法： 帕利塞德研究公司政策负责人戴维·卡斯滕 戴维·卡斯滕表示，他相信Anthropic确实在努力减少与Mythos相关的风险。“我非常相信Anthropic是认真对待他们所认为的Mythos两个风险特征的，”卡斯滕在接受《商业内幕》采访时表示。尽管如此，卡斯滕表示，发布该模型依然存在风险，因为“在攻击者和防御者之间总有一场猫鼠游戏。”卡斯滕补充说，Anthropic可能会认为自己在与竞争AI实验室的竞争中，与即将拥有同样强大模型的实验室展开竞赛。“对他们来说，我认为他们在想，他们能承受多少领先优势的选择。” Inrupt的信任和数字伦理副总裁戴维·奥滕海默 知名数字安全专家戴维·奥滕海默质疑Mythos是否真的像Anthropic所说的那么危险。“Anthropic在四月份的营销中称Mythos在公众手中太危险了，”奥滕海默在接受《商业内幕》采访时表示。“然而今天他们却在销售它，未作任何修改。”Mythos在四月份一度未对外发布，因为Anthropic警告称该模型在寻找网络安全漏洞方面能力如此强大，以至于构成安全风险。“他们把安全作为营销噱头，”奥滕海默补充说。 GoodData创始人罗曼·斯坦尼克 罗曼·斯坦尼克表示，AI能力并不是网络安全的真正问题。“有关AI和网络安全的问题在于，我们担心AI利用的漏洞，其实我们知道大多数漏洞已经存在20年了，”斯坦尼克在向《商业内幕》发送的笔记中表示。“我们只从未修复这些漏洞。”“没有人愿意支付人类工程师去修复它，”他补充道。“他们也不会支付AI去修复它。” Prime Intellect研究工程师埃利·巴库赫 埃利·巴库赫批评Anthropic故意限制Mythos在某些AI开发任务中的性能。“Mythos在AI‘前沿LLM研究’任务上故意表现不佳，”巴库赫在周二的X上写道。“这对研究界来说非常悲哀。”巴库赫还称这种干预“疯狂”，因为用户无法看到这种干预。 AnswerDotAI共同创始人杰瑞米·霍华德 杰瑞米·霍华德表示，Anthropic的安全措施可能加剧AI行业的集中。“Anthropic选择了安全路径的反方向，”霍华德在周三的X帖子中写道。“他们允许自己，当前的顶级实验室，使用他们的顶级模型进行前沿AI研究。”霍华德表示，结果是“AI前沿的进展，权力不平衡加剧。” Moor Insights & Strategy的创始人兼首席执行官帕特里克·穆尔赫德 帕特里克·穆尔赫德。埃里克·彼得森/SXSW会议和节日通过盖蒂图片社。穆尔赫德表示，他对Fable 5的第一次体验让他感到失望。在周三的X帖子中，穆尔赫德表示，该模型拒绝提供收益分析要点和董事会报告的帮助，因为Fable 5认为这些任务“太危险”。“这是我们都害怕的模型，让Anthropic价值达到1万亿美元吗？”他写道。“好的。” 《务实工程师》通讯作者杰尔吉·奥罗斯 杰尔吉·奥罗斯表示，Anthropic的安全措施最终可能会影响不是在建立竞争AI模型的人。“Anthropic假设SemiAnalysis正在开发一个竞争LLM，因此对他们降级模型表现，”奥罗斯在周三的X上写道。“Anthropic试图限制竞争却限制了很多其他人，”他补充说。 Menlo Ventures合伙人迪迪·达斯 迪迪·达斯专注于模型的能力而非其安全措施。“Claude Fable 5无疑是让我对软件工程的未来感到担忧的最荒谬的模型，”达斯在周三的X帖子中写道。达斯指出了一些例子，包括迁移5000万行代码...