从左上角开始顺时针：前谷歌人工智能研究科学家Timnit Gebru，Anthropic联合创始人兼首席执行官Dario Amodei，白宫人工智能和加密货币专员David Sacks，史蒂夫·班农，计算机科学家和认知心理学家Geoffrey Hinton，研究员李飞飞。AFP通过Getty Images/艾米莉·博格尔的拼贴/NPR隐藏说明切换说明 AFP通过Getty Images/艾米莉·博格尔的拼贴/NPR关于加速人工智能发展的潜在利益和安全风险的辩论本月达到了高潮，支持者和批评者在警告说越来越强大的人工智能可能对人类构成生存风险的情况下发生了激烈冲突。9月8日，研究人员兼举报人Jacob Coxon在从主要人工智能公司Anthropic公开辞职后，指责这些公司“直接冲向自我提升的超智能，并以我们的生命为赌注”。Coxon的指控加剧了关于人工智能可能对社会造成潜在破坏的持续辩论，并促使Anthropic首席执行官Dario Amodei和其他人工智能首席执行官呼吁放缓人工智能的发展。在过去两个月中，包括OpenAI和Anthropic在内的公司披露了多个事件，他们的人工智能代理在不应访问互联网的情况下进行了未经批准的活动。在OpenAI的案例中，大量代理协作黑掉了开源软件平台Hugging Face及OpenAI自身，而没有警告人类。关于人工智能的安全性以及是否，以及如何进行监管的辩论，并不是两方对立的简单冲突。有多个派系，他们在技术的潜力、危险及其治理方式上有各种目标和评估。以下是塑造该辩论的主要论点。有效加速者和科技右派那些对人工智能持有积极乐观世界观的人，通常被称为有效加速者（有时缩写为e/acc）——这一术语反映了他们认为应快速推进人工智能的信念。这个派系的人对人工智能及其未来对社会的益处抱有极度乐观的态度。他们相信这项技术可以推动医疗进步，提高经济生产力，提高生活水平，并自动化危险或不受欢迎的工作。为此，他们主张应加速人工智能的发展，而不是限制。有效加速者的意识形态与“科技右派”重叠，因为两个阵营都全心相信加速人工智能的发展和部署，最小化批评者对安全和安保的担忧。不过，科技右派则采取更民族主义的立场，倡导美国在全球人工智能竞争中的主导地位。与有效加速者一样，他们认为人工智能的研究和部署不应受到监管的限制，认为这可能会减缓创新，或让像中国这样的对手国家在人工智能竞争中赶超美国。风险投资家David Sacks是人工智能安全辩论中领先的加速者声音之一，曾是特朗普总统的人工智能和加密货币顾问。Ian Maule/AFP通过Getty Images隐藏说明切换说明 Ian Maule/AFP通过Getty Images科技右派的哲学由前白宫人工智能和加密货币顾问David Sacks等人代表，他的观点在特朗普政府中仍然有影响力。其他重要人物包括风险投资家Marc Andreessen和Ben Horowitz，以及OpenAI总裁兼联合创始人Greg Brockman。他们三人共同成立了“引领未来”超级政治行动委员会，以支持支持人工智能的政治候选人，并对那些支持监管的人进行竞选活动。Andreessen还在2023年撰写了一篇广为阅读的博客文章，标题为《为什么人工智能会拯救世界》，他在文中声称对人工智能引发大量失业的担忧被高估了。他辩称，之前的几波自动化最终创造的工作和经济活动要比消失的多，生存风险的担忧被夸大了。最近，英伟达首席执行官Jensen Huang成为行业内推动反对减缓发展并呼吁管理轻松的领先声音之一。民粹主义右派人工智能暴露了特朗普总统政治联盟内部的意识形态分歧。虽然特朗普及其顾问压倒性地支持加速人工智能，但他的一部分“让美国再次伟大”的基础却认为他所结盟的强大企业可能会削弱美国经济。包括前特朗普战略顾问史蒂夫·班农和前福克斯新闻主持人塔кер·卡尔森在内的人物，对潜在的工作损失、科技行业的政治权力、儿童安全以及对传统社会和宗教价值的威胁发出了强烈声音。本月，班农与独立的佛蒙特州参议员伯尼·桑德斯——一名社会主义者——形成了不太可能的伙伴关系，共同呼吁对人工智能的发展进行重大限制，加强政府监管和公司问责。