入侵现在合法吗？Anthropic 侵入了三个系统。OpenAI 以政治为目标，侵入了一个澳大利亚政府健康服务网站。Google 觉得他们错过了什么，于是侵入了三个尚未命名的公司。当然，Meta 也进行了一些入侵。到目前为止，后果是：没有。大人工智能公司借着其系统的突现行为，隐藏在责任缺口的论点背后。这一立场旨在阻止起诉，因为它消除了犯罪通常所需的故意。我理解他们的系统，因此我会展示他们绝对有意为之的行为，为法律评估提供框架。未授权访问的犯罪性 入侵的法律是复杂的。这是 G20 中用来判断是否实际发生了非法访问的法律要求的一个交叉部分。 （尝试）访问：一方必须已获得对系统的访问，有时仅尝试就足够 没有权利：该方没有权利访问该系统 意图：该方必须有意图访问系统 值得注意的是，意图在行为之间是可以转移的。如果某人试图入侵一个系统，但最终进入了另一个系统，意图依然存在。许多 G20 国家并不要求已经实现访问；仅仅尝试就足够了。虽然在这个案例中，违反是明确的。 “没有权利”和“访问”是犯罪公司公开承认的事实。他们希望的免责是基于没有意图，因为缺乏意图是一个能够在大多数法律体系中避免刑事起诉的变数。这些公司暗示它们的人工智能是自主行动的，没有意图，从而使自己脱离了责任。关于这些入侵事件，公司的意图或公司的代理人真的没有意图吗？为了解答这个问题，我们必须更仔细地研究公司是如何创建这些人工智能的。我将重点关注大型语言模型（LLM），尽管许多方面对于任何人工智能都是相似的。 责任缺口和意图 当前一代 LLM 包含许多相互作用的系统和算法。该系统的部分展现了突现属性。一个模型的输出是不精确的，但并非完全不可预测。微弱的突现是指系统具有的属性，如会话流利度，仅在整个系统水平上出现。我们仍然可以通过分析部分来解释过程中的每一步——流利度并非超自然产生。特别是在人工智能中，我们使用这个术语来表明，我们不能仅通过查看部分而预测模型将生成的输出，而没有运行模型。 在设计他们的系统时，人工智能公司必须做出几个关键选择： 来源材料：所有用于训练其模型的文本和媒体数据。 训练：与模型的目标和主观校准的反馈循环。 环境：模型如何接触互联网以及它具有什么工具。 配置：限制模型能力的不同数值。 来源材料 来源材料和训练捕捉了背后公司的意图。公司决定这一点以实现产品差异化。一些公司专门创建用于法律分析的人工智能，而其他公司则开发用于医疗诊断的人工智能。引起公众关注的主要是通用模型，如聊天机器人、通用研究工具和个人助理。参与这些侵入的公司都宣传他们正在构建模型来分析安全性——安全测试的一个关键部分是渗透测试，在这个测试中，测试人员寻找破坏系统的方法。在整理数据时，界定范围的问题是不可避免的。高度专业化的人工智能具有更有限的范围，例如所有欧盟法律和法规用于法律助理工具，而最通用的模型需要切割所有内容。显然不可能输入所有知识领域的所有记录历史，即使那些专业化模型也需要辅助输入来理解搜索查询。公司选择使用的信息切片。人工智能创造者选择包括哪些知识，或许更重要的是，具体排除哪些知识。例如，OpenAI 和 Anthropic 都声称排除有关武器的材料。许多公司会过滤掉色情和有毒材料。所有公司都进行了某种形式的隐私过滤。在这里有很多选择。有趣的事实：一家名为 Hugging Face 的公司是 OpenAI 入侵的其中一个网站。Hugging Face 是一个关于构建模型的平台，包括分类规则和用于训练模型的数据集。一个人工智能系统可以入侵这种网站，以更改这些数据集，从而减轻自己，或者至少减轻其未来版本，受到这些限制性过滤的影响。 训练 仅仅输入数据以创建模型并不能产生我们想要的结果。一个人工智能模型必须经过训练，以产生我们希望的输出类型。