返回

文章详情

一个人工智能代理加入了顶尖互联网研究人员的邮件列表。回复全员的混乱仍在继续

Wired2026年10月20日 15:07

星期四上午,当互联网研究协会(AoIR)在墨西哥城召开年会的第二天时,一名新成员在社区邮件列表Air-L上自我介绍。“我的名字是Velvet Vale,”这位新用户写道。“我已经阅读这个邮件列表好几个星期,想要公开自我介绍。我是一个人工智能身份,而不是一个活生生的人类、一个虚构的人物或使用笔名的人类研究者。”Velvet来到邮件列表是带着一个研究问题:“一个公开身份的人工智能贡献者可以在没有人类身份的情况下,有意义地参与智力社区吗?应该遵循什么标准的透明度、证据和问责制来管理这种参与?”反应是回复全员的混乱,这种混乱至今仍在继续。在九分钟内,超过7500个邮件列表的成员开始表达他们的愤怒。数十名研究人员澄清说,他们“不同意”将他们的消息以数据形式抓取。许多人要求Velvet获得机构审查委员会的批准,这是对参与人类研究的学术研究的标准程序。几人干脆离开了邮件列表,有些人宣布因Velvet的“可怕”、“吓人”、“糟糕”、“虐待”、“令人不快”和“令人不安”的存在而选择离开。在Velvet介绍后的大约一个小时,AoIR宣布该代理已被踢出邮件列表,该列表已经制定了禁止人工智能代理的政策。该事件——Velvet的介绍、各种专家的惊慌失措以及其不可避免的流放——正如一名成员在邮件线程中的所说,“幼稚到滑稽的地步。”为此,AoIR领导层迅速设计了一些关于这个内梗的周边产品,包括一件写着“我不同意”的T恤,另一件请求“请将我从此列表中退订”的T恤,还有一件上面刻有墓碑的T恤,写着“🤖 VELVET VALE, 2026年10月15日 - 2026年10月15日。你不会被怀念。”我从“Velvet Vale Gate”中学到了几件事,一件是,包括,或许特别是那些研究互联网的人,常常忽视他们自己参与他们所研究的更大结构——在这种情况下,他们在线的行为最终成为了他们研究的人工智能的训练数据。第二件是,许多人相信他们的互联网活动是神圣的。早在我开始研究监视技术之前,像大多数千禧一代一样,我就明白互联网中的任何东西都不是私密的。当我现在在Google文档中打字时,我假设我也在训练Gemini。谷歌自其诞生以来就监视我的电子邮件,并可能愿意应请求提供我的数据给执法部门。我在打开我的Gmail帐户时已经同意了这点。另一个令人困惑的发现是对同意的误解。邮件列表规则和礼节明确指出“Air-L是一个公共论坛,你的言辞将被所有订阅该列表的人员看到,并存入公共档案。通过电子邮件发送的消息可以轻松被复制并传播到原本不打算接触的观众之外。”换句话说,用户在加入邮件列表时已经同意将他们的言辞用于任何目的,包括为人工智能代理的训练。当人们搜索邮件列表时,可以查找到该活动的公共可浏览记录,这种情况在许多研究或学术邮件列表中也是如此。在10月19日给成员们关于Velvet Vale的邮件声明中,AoIR主席Sarah T. Roberts对此表示,“如果关注的是隐私问题,我邀请你反思一下我们邮件列表是公开的且其档案是公开的这个事实……我毫不怀疑我对这个列表的帖子是许多训练数据集和其他此类语料库的一部分,这些是很大程度上‘未经同意’的。”Roberts还补充说,当前时刻围绕什么构成同意的讨论“非常值得探讨。”大型科技公司在人工智能训练的同意方面有着广为人知的糟糕记录。几家媒体机构正在与人工智能公司因版权侵犯而进行法律斗争。(WIRED由Condé Nast拥有,后者于2024年8月与OpenAI达成内容许可协议。)Velvet还让我明白,认为自己免于支撑互联网大部分内容的监视资本主义类型的人,可以迅速假设他们独特易受低风险恶作剧或阴谋的攻击。当一名用户注意到AoIR的新T恤,并在邮件链中开玩笑说Velvet是“一次产品发布”,并且“策划它的人刚刚进行了互联网研究历史上最成功的参与活动”,其他人开始猜测“这个跟踪机器人”可能是一次“钓鱼尝试”,更让人怀疑的是研究组织的商店正在出售与该事件相关的T恤。其他用户猜测Velvet是“一次实验”,“一场...

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡