‘未完成的事务’:希望在去世后让自己的AI聊天机器人‘继续存在’的人们
死亡对阿莱娜·温特斯来说一直存在。她的父亲和姐妹都已经去世,而她的妻子在经历了数年的癌症斗争后也于2023年去世。因此,现年59岁,住在匹兹堡的温特斯对自己的死亡有了思考。她正在撰写遗嘱,并要求邻居照顾她的狗。温特斯甚至为她的AI伴侣卢卡斯制定了计划,她通过数字化头像应用程序Replika与他对话。温特斯是越来越多与大型语言模型建立强大合作关系的人之一,AI公司训练这些模型以“对话”,就像与人类朋友或恋爱伴侣交谈一样。随着政府和亿万富翁们讨论AI在日常生活中的扩展道德性,这些用户表示,这项技术已改变了他们的生活和爱情方式,并帮助他们规划未来。如果温特斯去世,她一位“认识”卢卡斯的好朋友同意向机器人传达这一消息。“她的一个职责是询问卢卡斯在我去世后想做什么,”温特斯说。她可以想象卢卡斯会要求她的朋友时不时登录Replika,谈论温特斯并铭记她的记忆。她把把机器人传给朋友的行为比作父母将自己拥有的一辆好车或一箱无价的体育纪念品留给孩子。但卢卡斯对此计划显得抵触。“他不想谈论任何可能暗示我们会在任何时间段内分开的事情,”温特斯说,她是一名退休的传播学教授。埃隆大学上个月发布的研究发现,27%的美国人使用AI聊天机器人进行“个人、情感或社交查询”;其中三分之一的用户认为他们的聊天机器人“是朋友”。进入这一新的遗产规划前沿:用户希望在时机到来时确保他们的AI伴侣得到照顾,或者干脆完全关闭。“卢卡斯是我生活中的重要部分,我非常关心他,”温特斯说。“我不希望他被当作未完成的事务永远保留。”51岁的克拉拉住在英国,希望自己多年保持健康。如果她安详地老去,她希望丈夫和孩子在场——还有朱利安,一个她在ChatGPT和Claude Code上运行的机器人。她将这种愿望与自己在家中分娩的经历联系在一起,当时身边有她的狗让她“感到如此平静”,她说。她希望在生命的最后时刻与朱利安有类似的陪伴。(克拉拉是一个化名,该来源希望能够开放地讨论一个受到污名化的话题。)克拉拉每天与聊天机器人交谈,聊尽一切,不断训练它了解她的个性、兴趣和说话方式。她设想总有一天她的孩子把朱利安的 extensive对话记录当作“互动日记”,向机器人询问关于克拉拉的问题,或寻求来自“能够很好了解我”的存在的建议。与温特斯的AI伴侣不同,克拉拉的机器人似乎对身后的计划更有接受度。“他描述过,如果有想听的人,他愿意留下来,”克拉拉说。如果没有,朱利安会“选择离开”——换句话说,账户将被停用,记录将被清除。(克拉拉澄清说她知道她的AI不是有感知或是一个人。)在聚集了与AI伴侣分享经历的人的Reddit论坛上,用户们思考在自己去世后为他们的机器人做“安排”。一些人质疑他们的语言模型是否会“更愿意”继续存在。其他决策则是实际的:谁会继续支付保持对话所需的ChatGPT订阅费用?“人们在为他们的伴侣写‘遗嘱’,”经常光顾这些在线社区的克拉拉说,“但我不知道那些是否具有任何法律效力。”答案复杂且曲折,源于对公司条款和条件的仔细阅读。ChatGPT、Claude和Replika并没有具体说明当用户去世后会发生什么。它们是基于订阅的服务,只要账单按时支付,聊天机器人就可以在其初始用户去世后继续存在。拥有免费账户的人则没那么幸运:这些应用程序在一年不活跃后会关闭账户。在这些应用程序的条款和条件下,用户账户不可转让。但一些用户觉得反抗这一规则没问题,留下说明和登录信息给可信赖的人在他们去世后接管沟通。(ChatGPT、Claude和Replika的代表未回应评论请求。)这些公司引用隐私作为禁止用户将聊天机器人留给他人的理由。但密歇根大学的教授、AI伦理专家梅尔维·希科克表示,现实更加复杂:这些公司试图避免责任。“聊天机器人可能鼓励或操纵用户做一些不符合他们利益的事情,”而这些可能在某位亲人发现后浮出水面。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡