周一，马克·扎克伯格发布了一份6500字的关于个人人工智能的宣言，主要讨论Meta AI正在构建的“个人超级智能”系统的可能性。帖子中的想法并不是全新概念。几个月前，华尔街日报上发表过该文的版本，他也曾在Meta财报电话会议中讨论过这些想法。但这可能是他分享的最详细的版本。我看到有人将其描述为一篇反厄运的文章，但这并不完全正确。它更像是描述了马克·扎克伯格个人对人工智能将如何改变社会的兴奋感。然而，即使扎克伯格试图描绘超级智能将带来的美好未来，他也不断提醒我们它可能出错的所有方式。我也发现人工智能很令人兴奋——这就是我不断写作的原因——但公众中有很多人将人工智能视为令人不安和不愉快的事物。因此，确切了解这里发生了什么，以及为什么扎克伯格不会因这样的文章而为行业带来好处，是值得的。社交媒体在科技行业仍然是一个敏感话题，而我们这里没有空间来讨论人们对Facebook的每一个投诉的相对优劣。可以说，Facebook作为一款产品，扎克伯格作为一个人，在美国公众中都不受欢迎。最近的一项调查发现，64%的美国人认为社交媒体对民主有害，类似比例的人认为社交媒体应该受到更严格的监管，这些数字在各党派之间平分秋色。就在这个周末，一家法院对该公司罚款5.67亿美元，理由是其对儿童造成了伤害。氛围很糟糕。我提到这一点并不是暗示扎克伯格应该感到羞愧而隐退到荒野——但社交媒体带来的影响是我们现在看到如此多关于人工智能社会影响焦虑的中心原因之一。公正与否，公众不信任科技高管确保这类新技术对社会产生积极影响。与其承认这一点并试图重获他们的信任，这篇文章一再展示了信任最初是如何丧失的。文章的大部分内容都致力于关于智能的模糊泛泛之谈——非常类似于扎克伯格和多尔西曾经对言论自由的模糊泛论。例如，这是一个这样的句子：随着每个人获得更强大的工具，每个人都将变得更有能力塑造未来，而不是更少……具有竞争利益的人和机构自然会相互制衡，以实现积极的结果。建立一个积极的人工智能未来的最佳和最现实的途径是让每个人都获得超级智能。我想？我能想到一些利益冲突导致不良后果的例子，但我们先不谈这个。更奇怪的是，这被呈现为一个诚恳的哲学结论，而不是Meta正在推向市场的一种名为“个人智能”的具体产品。如果你已经倾向于不信任这个人，你可能会担心他们写下这些只是为了说服自己，没有什么坏事会发生。当扎克伯格谈到具体例子时，我的这种感觉变得更强烈，许多例子显然与人工智能工具的使用现实严重脱节。例如，这是扎克伯格对教育中人工智能的看法：每个人都会有一个个性化的导师和教练，拥有每个科目的博士学位，并有无限的耐心来帮助你学习想学的任何东西。学生在他们需要帮助的领域会得到额外帮助，而这些帮助目前只能提供给那些可以支付的父母。成年人将拥有一个超级智能学习助手，确切知道如何教会你新的工作技能、新语言、新爱好或你感兴趣的其他任何东西。当然，扎克伯格描述的产品已经存在：这是一种像ChatGPT、Claude和Gemini这样的消费者聊天机器人。这些工具确实对你学习某个主题有所帮助，但它们在教育中的主要使用方式是避免学习，因为你的个性化导师可以做你的作业和写你的指定论文——而且由于没有健全的水印系统，教师无法确定哪些论文是人工智能生成的。这是一个比较低风险的人工智能伤害的例子，但这是一个真实的事情，正在发生。有时你设计一种技术来做好的事情，但它会产生意想不到的后果，使事情变得更糟。而世界上最强大的人之一拒绝承认这一点，非常可以理解地使人们感到紧张！扎克伯格还给出了人工智能将如何改善法律系统的一个例子：作为一个思想实验，想象只有一个人拥有一个超级智能的律师。他们在法庭上将具有不公平的优势——即使他们在法律上是错误的。这将导致一个更糟的社会。但现在想象每个人都有一个超级智能律师。在这种情况下，...