风险投资家比尔·古尔利表示,Anthropic正在'助产一个神',通过'建设一个优于人类的物种'
风险投资家比尔·古尔利表示,Anthropic正在'助产一个神',通过'建设一个优于人类的物种' 由布伦特·D·格里菲斯撰写 你现在正在关注这位作者!想取消关注吗?通过电子邮件中的链接退订。比尔·古尔利,硅谷的风险投资家和Benchmark Capital的普通合伙人,表示他对Anthropic的计划感到担忧。 古尔利在最近一期的'全在播客'中表示,他担心Anthropic的最终目标。古尔利表示,Anthropic想要建设一个优于人类的物种。他说:“我越深入了解,遇到的人们,我敢说他们认为这是他们的责任,他们对建设一个优于人类的物种感到兴奋。” 古尔利表示,他花了一个月时间阅读关于Anthropic的所有资料,得出的结论是,这家领先的AI初创公司想要创造一个类神的系统来统治人类。"我不认为他们认为自己在写软件。我认为他们正在助产一个神,"古尔利说道。"而我不知道我更害怕哪个,是监管捕获还是我称之为弗兰肯斯坦博士理论的第二种理论。"古尔利表示,他的"弗兰肯斯坦博士理论"对他来说“比经常重复的批评更可怕,即Anthropic对AI安全要求的推动是一种隐藏的策略,用以排挤竞争对手。”古尔利表示,这一理论的一个动力是阿莫代i在2024年10月撰写的论文《爱的恩典的机器》,这篇论文的名称来自理查德·布劳丁(Richard Brautigan)1960年代的一首诗,设想一个智能机器监视人类的世界,人与机器摆脱日常生活的任务。在论文中,阿莫代i假设了一些经济将在获得"强大的AI"后发生变化,从普遍基础收入到"AI系统的资本主义经济"。"他说,'这可能是AI系统的资本主义经济,然后根据某种次经济将资源分配给人类,这些是AI系统认为值得奖励的人类。'所以这是设想一个将决定人类所作之事的某种神。"古尔利引用了这篇论文。古尔利的理论基于他对阿莫代i及其他关键的Anthropic官员描述人工通用智能(AGI)或AI超越人类能力的类似理论时的看法。 AGI的确切定义存在激烈的争论。Anthropic并没有明确表示它计划建立古尔利所描述的AI神。Anthropic的代表告诉《商业内幕》,目前没有评论。Anthropic的联合创始人克里斯·奥拉(Chris Olah),古尔利引用的那位,最近与教皇利奥十四世一起参与了关于AI和人类的教义宣言的发布,教皇警告那些寻求超人类或后人类存在的人,赞美做人的美德。"使这成为可能的机械是数学、编程和科学的工作,"奥拉在梵蒂冈的演讲中说道。"但是我们选择什么样的性格,它是如何与世界互动的,它应该如何与世界互动——这些显然是属于人文学科、宗教、哲学和整个社会的问题。"古尔利仍然在Benchmark Capital工作,但他在2020年减少了与公司的联系。他公开为Benchmark在中国创办的AI初创公司Manus投资7500万美元辩护,该公司后来于2025年12月以20亿美元被Meta收购。"全在播客"的共同主持人中,有些人曾与Anthropic公开冲突,他们对Anthropic的最终目标表达了与古尔利相似的担忧。"他们相信自己这么强大,这些人,他们可以创造出神,而通过创造神,他们变得像这样的普罗米修斯式物种,"共同主持人杰森·卡拉卡尼斯说。唐纳德·特朗普担任总统期间的AI和加密专家大卫·萨克斯表示,从Anthropic追求一个强大的AI并要求安全法规,可以轻易推导出主张监管捕获的议程。"如果你将自己标榜为安全AI公司,然后试图将其他所有人描述为鲁莽的参与者,而鲁莽的AI需要被制止,你可以看出这将进一步加大你对这一行业的垄断控制,"萨克斯说。过去,Anthropic的首席执行官达里奥·阿莫代i表示,他推动更强的监管,因为他“深感不安”人工智能公司自我监管,因为这将把巨大的权力留在少数人手中。"这也是我总是倡导对该技术进行负责任和深思熟虑的监管的原因之一,"阿莫代i在2025年11月告诉《60分钟》。阿莫代i还表示,如果人们怀疑Anthropic的真诚,他们应该看看它的过去,当安全问题导致这家初创企业在2022年11月OpenAI发布ChatGPT之前推迟公开发布Claude。"我们可能...
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡