考虑一下在科技政策中什么算作成功。一个人工智能公司承诺其聊天机器人不会鼓励自杀。一个社交媒体平台使儿童更难购买芬太尼。这些是重要的保护措施，应该早就存在。但公司们可以轻松地达到这些低标准，同时继续制造让年轻人依赖模拟友谊或陷入为了让他们不停滚动的动态信息流中的产品。我们历史上一直允许关于科技的讨论被定义为一个产品可能做出的最糟糕的事情，而对它每天造成的潜在伤害讨论却相对较少。当我们过渡到一个由强大的人工智能产品定义的时代时，我们应该要求科技行业不仅仅解决灾难性伤害。我们应该采取措施确保它的产品不会侵蚀我们的思维、学习和相互关系。一个对人工智能伴侣产生不健康依赖的青少年可能在诉讼或报纸上永远不会出现，除了在最严重的情况下。开始依赖聊天机器人撰写每篇论文的学生也是如此，或者那个将自己的生活与经过工程设计的社交媒体动态信息流进行比较的年轻人以至于激发嫉妒并让他们不断观看。一个产品可以满足每一个狭窄的安全要求，但仍然会让我们整个文化变得更糟，而这些方式不一定总是成为头条新闻。围绕安全进行的狭隘定义的成功对科技行业在政治上是方便的，而公司也积极推动这样的定义。采取措施防止显著的灾难对商业有利：这可能意味着更少的诉讼和对严肃监管的压力减少。面对日常依赖的后果将需要对他们的利润底线产生显著更大威胁的事情。这可能意味着要求公司在其产品中增加更多摩擦，或者主动限制导致负面结果的参与或功能，例如上瘾的注意力操控算法。科技巨头们反而努力围绕他们已经受到直接压力处理的伤害来塑造立法。今年，例如，谷歌支持在几个州监管人工智能聊天机器人的法案。该立法强制规定应该对性内容和自残推广提供基本保护，而这些是科技公司本应建立的，但有广泛的豁免条款可以豁免一些最受欢迎的服务。通过通过这些法案，立法者得以声称取得了安全胜利，而推动更强立法的努力——旨在防止儿童情感依赖于人工智能的法律——却失败了。这个操作在内布拉斯加州等州奏效，产生的立法受到行业的极大影响，代价是那些本可以让公司更加负责的法案。我们在社交媒体上经历过类似的情况。全球使用互联网的人现在平均每天在社交媒体平台上花费超过两个小时，这段时间被安静地从普通生活中抽走，交给那些利润依赖于让我们停留在那里的公司。除了或许一些科技首席执行官之外，没有人希望这些算法占据我们清醒时间的如此大一部分，而它们的文化工程实际上可能导致大规模的暴力。Meta的多个平台被指责在缅甸的罗兴亚大屠杀、斯里兰卡的反穆斯林骚乱以及在埃塞俄比亚的提格雷战争期间涉嫌呼吁暴力等事件中发挥了作用。影响年轻美国人对政治、同龄人和更广阔世界理解的动态信息流中也存在着相同的激励机制。人工智能将这种逻辑扩展到社交媒体只能从远处影响的生活部分。它提供为我们代写思想和代理我们可能转向的人。一三分之一的青少年现在选择与人工智能伴侣讨论严肃事项而不是其他人。麻省理工学院的研究人员发现，使用ChatGPT写作文的年轻人在任务过程中表现出更弱的脑连接性，他们的证据表明“认知债务”即使在任务完成后仍然持续。我们仍然需要了解长期影响的许多方面。我们已经有理由质疑那些被营销为使我们更有能力的科技是否正在侵蚀帮助我们首先发展的习惯和关系。遵循这种思维方式到达逻辑终点，我们就会得到一个完美消毒的娱乐世界，聊天机器人随时准备让我们省去思考或处理他人（甚至是我们自己）的情感的困难。但任何曾经努力写出值得阅读的东西或修复受损友谊的人都知道，在这个交易中损失了多少。我们通过努力和摩擦建立判断力，并通过面对他人有自己的需求和意见的事实来学会与其他人共处。