返回

文章详情

‘Not healthy’ LLM use is more common than you think

‘不健康’的LLM使用比你想的更常见

The Verge2026年8月4日 17:33

流行的YouTuber和科学传播者汉克·格林表示,在因使用AI而面临激烈批评之际,他正在减少制作工作。格林形容他的AI使用为‘不健康’,但强调他使用它来寻找研究来源,而非撰写脚本。此事件引发的轰动主要围绕着创作者如何将建立在真实性和可信性基础上的品牌与一种基于他人(通常未得报酬)作品培训的技术结合起来,而这种技术以生成看似合理的虚假陈述而闻名。有些注意力集中在格林对显然不健康依赖该技术的描述上。但他的案例指出了我们对AI心理影响理解中的一个更大差距。在这里,大多数公共讨论主要集中在两个极端:一端是显然无害的使用,另一端则是涉及精神治疗、妄想和精神病的显而易见有问题的案例。在它们之间,是一个更广泛、模糊的空间,在这个空间中,使用可能会变得强迫性、依赖性或以其他方式不健康,而没有明显陷入危机。格林似乎认为自己处于这个空间的某个位置。许多其他人可能也这样认为。考虑到LLM的设计,这不应该令人感到惊讶。AI聊天机器人天生就是为了持续聊天。与社交媒体平台一样,它们显然是为了吸引用户而设计的。专家已将此视为AI精神病的一项关键驱动因素,这是一个涵盖那些高度同意的聊天机器人加深妄想信念的情况的术语。针对公司优先考虑参与度而非用户福祉的指控也开始出现在诉讼中。同时,提供者也引入了警告,提示人们在长时间使用后休息。但这些相同的特性在对精神危机产生影响之前就可能变得有害。越来越多的报告表明,人们本能地转向聊天机器人来思考问题、做决定或寻求安慰,而其他人则建立起似乎足够强大的情感纽带,以至于在破裂时感到悲痛。在足够的证据能够收集到以前,这可能需要数年时间,但这些早期报告让人感觉与另一种旨在最大化参与技术的早期岁月——社交媒体——异常相似。随着时间的推移,人们对社交媒体对我们福祉、注意力和有时强迫性使用的影响的担忧有所增加,各国政府现在也在采取措施限制其使用,比如禁止儿童和青少年使用。格林的案例展示了另一种依赖。他表示,他将其用作研究辅助工具,帮助他查找有关某一主题的论文和其他材料。尽管引发了激烈的反响或格林的道歉,但几乎没有证据表明他以这种方式使用聊天机器人本质上是有问题的。这并不一定意味着这种技术对使用它的人没有影响。尽管研究仍处于早期阶段,但早期研究表明,重复使用AI工具可能会削弱我们完成其替代任务所需的技能。其他研究表明,测量特定任务时,聊天机器人的使用者表现出明显较少的脑活动,而其他额外研究则将聊天机器人的使用与批判性思维能力的减少联系在一起。所有这些都不是定论,但其潜在理念并不新颖。认知转移——将记忆、心理数学或方向等心理工作从大脑转移到外部工具——是一种有充分文献记载的现象。即使只有一小部分聊天机器人的使用被认为是不健康的,AI采纳的规模意味着数百万人的生活仍会受到影响。涵盖所有可用工具的全面数据非常难以获得,但光是OpenAI今年表示,它就拥有超过9亿的每周活跃用户。完全理解搜索引擎如何改变我们记忆信息的方式,或社交媒体如何影响注意力和福祉,花费了多年时间。AI不太可能有所不同。格林可能只是第一个公开表达许多人早已感受到的担忧的高调人物,而科学尚未提供证据来解释AI如何改变我们的意识。关注本文中的主题和作者,以便在您的个性化主页动态中看到更多类似内容,并接收电子邮件更新。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡