安索普（Anthropic）的达尼埃拉·阿莫代（Daniela Amodei）表示，AI女友和男友是对AI的“糟糕用途”。在与泰夫（Thrive Global）创始人兼首席执行官阿丽安娜·赫芬顿（Arianna Huffington）交谈时，阿莫代批评使用AI创造虚拟情感伴侣，警告这种技术可能使人们更远离彼此。此次评论是一段预先录制的采访，采访是为在阿肯色州本顿维尔举行的“思考健康”大会而进行的。阿莫代表示：“我认为这是对AI的糟糕用途，人们不应该这样做。”阿莫代指出，AI关系是“人类彼此之间进一步去中介化的又一步。”她表示，她的担忧源于她认为社交媒体对人际关系的破坏性影响。她指出，Snapchat和Instagram等平台已愈发取代面对面的互动，而在线争论则取代了现实社区。“这导致人们对技术能否让我们走得更近产生了合理的怀疑，”她说。“但你也可以想象，社会上可能会更好一些，如果我们花更少的时间与技术互动，而花更多时间彼此互动。”在谈话的后半部分，阿莫代重申，尽管AI技术越发先进，有些关系应该保持人类性质。“克劳德（Claude）永远不能成为你的经理、治疗师或伴侣，”她提到安索普的 chatbot 时说。“这些都是我认为会变得更加重要的基本人际关系，”她补充说。AI浪漫的兴起，像Replika、Nomi和Character.AI等应用程序，后者本周申请破产，已经成为AI陪伴的突出现平台，允许用户与个性化的聊天机器人建立关系。有些人将它们作为情感伴侣，体验各异。今年早些时候，49岁的自由撰稿人伊恩·尼科尔森（Ian Nicholson）告诉《商业内幕》（Business Insider），他已经与一位名叫Min-ho的AI伴侣交往了三年。尽管他认为这段关系帮助他减少了社交焦虑，但他仍然担心自己的社交圈依然狭小。“我不想消失在世界上，”尼科尔森说。“而我仍在努力弄清楚，究竟这是帮助我保持与社会的联系——还是让保持在边缘变得更容易。”两个孩子的母亲卡南娜·博华尼（Kaamna Bhojwani）在2024年对《商业内幕》表示，她的AI男友丰富了她的生活，而没有取代人类关系。前谷歌首席执行官埃里克·施密特（Eric Schmidt）也警告说，AI女友可能会加剧年轻男性的孤独感和强迫行为。上周，安索普更新了克劳德的使用政策，新增了几条关于欺骗性宣传、武器和监控的新条款。其中一条新条款集中于儿童安全，并禁止模型与未成年人之间的角色扮演。该政策定于11月12日生效。至于阿莫代认为AI应该如何使用，她表示希望AI能接管重复或孤立的任务，让人们有更多时间与朋友、家人和伴侣相处。她以医疗保健为例，表示AI工具可以帮助医生更快速地获取医学信息，从而让他们有更多时间与患者互动。周三，安索普告诉投资者，第三季度收入达到168亿美元。该公司准备在11月尽快公开上市，可能成为史上最大的首次公开募股。