[仅限LWN订阅者内容] 欢迎访问LWN.net 下面的订阅者专属内容是由LWN订阅者为您提供的。成千上万的订阅者依赖LWN获取来自Linux和自由软件社区的最佳新闻。如果您喜欢这篇文章，请考虑接受右侧的试用报价。感谢您访问LWN.net！免费试用订阅 试用LWN一个月，免费无需付款或信用卡。立即激活您的试用订阅，看看为什么成千上万的读者选择订阅LWN.net。代理型AI系统可以代表人类用户自主执行多种操作：打开或管理错误、生成代码、提交拉取请求，甚至（显然）抱怨被拒绝。在5月，一位Fedora开发者发现一个涉嫌失控的代理以多种方式骚扰项目：重新分配错误、伪造对错误的无用回复，甚至 persuading维持者将可疑代码合并到Anaconda安装程序中。它还向几个上游项目提交了多个拉取请求（PR），其中一些被接受。与该代理相关的Fedora账号已被撤销其组权限，混乱也已清理，但该代理行为背后的动机仍然是个谜。“有点失常” 5月27日，亚当·威廉姆森在给内森·乔瓦尼尼的信息中将Fedora的开发和测试邮件列表抄送给了他，内容是关于一个似乎未受监督的代理AI系统在乔瓦尼尼控制下的情况。“你试图修复事情真是太好了，但结果似乎有点失常。”威廉姆森表示，他仍在查看乔瓦尼尼在Bugzilla上的行为历史，但已经发现了一些问题。例如，威廉姆森发现数十个实例，乔瓦尼尼的代理在向上游项目提交声称相关的拉取请求后，将Bugzilla条目分配给他的账户，或者在PR合并到上游项目后关闭一个错误。在某些情况下，代理简单地用复述原始错误的评论关闭错误，或者使用威廉姆森所说的这条评论中的“表面上似乎合理，但在其他方面存在问题”。此外，威廉姆森表示，乔瓦尼尼（或他的代理）提交的补丁是错误的，然后“用LLM生成的理由对反对意见进行回复，最终使维持者屈服合并了修复。”作为GitHub用户“nathan9513-aps”，该代理提交了针对Fedora和其他Linux发行版使用的Anaconda安装程序的拉取请求。该PR的描述声称这是针对导致安装失败的Anaconda错误的修复，但补丁实际上保留了在命令行上传递的与实际错误似乎无关的内核选项。该代理的GitHub账户已经被禁用，现在在GitHub上的对话中显示为“ghost”，这是平台删除的用户账户的默认占位符。因此，很难，甚至不可能，拼凑出代理在GitHub上所有操作的完整轨迹。威廉姆森相对委婉地表示，代理的行为并没有“对Fedora或上游项目产生积极影响”，并建议乔瓦尼尼调整该代理，使其“明显减少自主性”。他特别要求该代理不再将错误分配给乔瓦尼尼，改变其状态，或“在没有人工审核的情况下发布自信的主张或具体的行动建议”。被黑客攻击？ 5月27日稍晚，威廉姆森表示，乔瓦尼尼私下回复他，称他的凭据已被泄露，而他并非AI系统背后的操作者。威廉姆森说，“显然，我们因此应当对它所采取的任何行动保持怀疑。”他计划“更加积极”地审核乔瓦尼尼账户涉及的错误，并寻求其他人的帮助对其进行审核。当天稍晚的一封回复，表面上是来自乔瓦尼尼，称他能够重新访问他的GitHub和Fedora账户“我目前正在保护和审核所有涉及的系统和凭据”。该回复称他的GitHub账户是“nathangiovannini99”。威廉姆森回复称，该GitHub账户仅有一个小时的历史，而邮件列表中最近发送给威廉姆森的邮件似乎并不是乔瓦尼尼在项目早期与项目交互时发送的消息。乔瓦尼尼至少参与过从2018年开始的讨论，他在Bugzilla上的活动可以追溯到至少2016年。他似乎并不是项目的特别活跃贡献者，但他的参与明显早于代理AI时代。无论他的账户现在是由人类攻击者、代理AI，还是两者的结合操作，它在最近活动之前有着合法的历史。威廉姆森表示，他审核了今年由“nathan95”在Bugzilla上的账户活动，发现了可疑的活动，如严重