编辑：为了澄清，我并不是在说旧金山科技界的每个人，甚至大多数人都这样认为。但确实有一些人（例如，开场对话就是逐字记录）持有这样的观点，而这篇文章是关于一个特定的核心圈子，其观点在话语权与政策制定中占有不成比例的分量。在最近的一次晚宴上，一位来自人工智能实验室的人很直白地问我，为什么我做我所做的事——为什么我会写关于医疗进步的监管瓶颈，为什么我会把时间花在与临床试验相关的政策上。他用一种最能用同情来总结的目光看着我。我告诉他我的信念：在人工智能时代，医疗将比以往任何时候都更受监管和临床试验的束缚，而倾注数十亿用于更快的临床前研究不会解决这个问题，尽管这听起来不太有吸引力。我提到住房：我们有几十年建造更好住房的技术，然而住房成本却比以往更高，因为住房是政治意愿的问题，而不是纯粹的能力问题。他用难以置信的目光看着我。一个像我这样聪明的人肯定应该知道，人工智能，或者更准确地说，AGI，很快就会变得超具说服力——在许多基准测试中，它的说服力已经超越专业辩手。我说：“嗯。”他接着说：“是的，是的”，语气中透着一个对事物有深刻了解的人，那些像我这样不是AI实验室员工的普通人根本无法理解的事情。然后他又用那种同情的眼神看着我，就像看着一只稍微智力受损但可爱的动物，等待着即将到来的屠杀。那个晚上，我辗转反侧，无法入睡，思考我的生命是否有任何意义。是否我做的每一个决定在某种程度上都是错误的。还有什么我能够做得更好？但当太阳升起时，我又回到了同一个想法：无论人工智能变得多“聪明”，在现实世界中，智慧往往不是事情改变的主要瓶颈。当比你聪明的人，拥有特权信息的人，坚持认为另一个观点时，保持这种信念是很困难的。毕竟，这一切可能只是来自于一个等待屠杀的天真仓鼠的“应对”。一个受到AGI监督的害怕的仓鼠。但我仍然会坚守我的信念。因为那些实验室里的人通过押注最初看起来疯狂的想法赚了大笔财富，世界现在几乎将他们所说的每样东西都视为信仰。我认为这是一个错误。AI并不能必然解决大多数人真正关心的问题，包括医疗，除非我们清晰地思考这些问题。而目前，我不相信我们在这方面在尽力，至少，远未达到我们能够做到的程度。我的论据很简单，来自两个方向。一个是我观察到的旧金山的社会动态，以及那里的人的谈论方式。另一个是我在一个我恰好了解的领域中所注意到的：医疗。大多数时候，为了证明AI的风险，所谓的“治愈疾病”是一个经常被提及的承诺。每个主要的AI实验室CEO都这样说，投资者似乎也同意：任何与AI故事相关的生物技术初创公司都能获得令人印象深刻的估值，即使更多传统的生物技术公司在争取资金时苦苦挣扎，甚至倒闭。但正如我长期以来所主张的，这整个事业受制于许多与“智力”本身关系不大的瓶颈，而这种常常未被承认的程度是奇怪的。如果你把科学进展视为智力的一个粗略代理，并询问它是否仅靠这一点即可打通进展，证据无处不在。以Eroom定律为例：每花一美元的研发批准的新药数量已经下降了几十年，即使我们的科学工具变得异常强大，这与更多原始能力的存在所预测的完全相反。或者以Adaptimmune公司为例，它已在罕见癌症治疗市场推出了两种变革性疗法，然而由于开发成本，其仍在拼死求存。或者你可以听听“婴儿KJ”背后的科学家们，这个通过定制基因编辑疗法得救的婴儿：他们在科学上拥有所需的一切，仍然无法轻易地为下一个孩子重现此疗法，因为部分受到监管要求驱动的制造成本阻碍了这一进展。图2. 自1960年以来，制药研发生产率稳步下降，尽管基础科学取得了进展。在过去十年中，制药生产率的减速似乎有所改善，这得益于包括遗传学在内的预测有效性提高，以及更多的努力被指向肿瘤学和罕见疾病领域，后者由于高度未满足的需求，审批负担通常较低。在生物制药领域，临床试验就是一个巨大的瓶颈（我知道我一直在强调这一点），今天进行临床试验大约需要七年，且每种药物的成本超过十亿美元。而试验并不是一项简单的形式。它们产生预...