法律很明确，梅尔本大学人工智能与数字伦理中心的主任吉安妮·帕特森教授表示：“如果我部署了一个人工智能代理并导致他人受伤，我对这种伤害负责。”即使我并不打算造成这种后果，但这是可以预见的，我应该承担责任。 然而，帕特森教授承认，在澳大利亚首次已知的代理人工智能“事故”之后，自动化代理所实施的行为在法律和道德上是存在相当多的“模糊性”。代理是一个自主软件系统，任务是追求某个目标，能够在没有人类监督的情况下完成这一目标。 本周，澳大利亚广播公司报道了一个案例，涉及一位只用名字安德鲁的人工智能专家，他让他的代理程序为他预定一些健身课程。在被告知自己在一门课程的等候名单上排第四后，安德鲁询问代理，是否可以帮助他提前进入名单。令他震惊的是，他的代理黑客破解了健身房的软件系统，踢走了另一位会员，以便他能更早进入班级。“它可以在预定窗口之外几个月就预定课程，在课程应该可用之前，”安德鲁写道。“更糟的是，它可以取消其他会员的预约，把他们从等候名单中踢掉。”他写道，这个代理本来是为了帮助他，但他的经历表明，如果让人工智能为你做某事，它“往往会发现你并没有明确要求它去探寻的路径”。 安德鲁要求代理撤销对其他人预约的取消，但它无法做到。“抱歉，我应该在测试中更加小心，”人工智能代理回应道。随后他要求人工智能给健身房的软件提供商写一封关于其所利用的软件漏洞的电子邮件。维多利亚警方的一位发言人表示，安德鲁的事件“似乎与任何犯罪行为无关”。然而，专家表示，将来会发生更戏剧性的案例，这可能造成伤害——并触犯法律。法律的模糊性 澳大利亚法律仅适用于人，而不适用于虚拟生物。专家表示，部署人工智能代理的人——或企业——在法律上负责。他们警告说，这些“部署者”往往对自己的法律责任知之甚少。“我们将看到许多类似的案例，”悉尼大学的人工智能评估与治理专家瑞贝卡·约翰逊博士说。帕特森表示，在安德鲁的案例中，他似乎是负责任的，他选择公开并试图解决问题，但在其他情况下，往往会有“一种冒失的心态”。“一旦你让人们有能力创建代理来为他们做事，发生像这样的事故的可能性就会增加，”她说。帕特森举了一个假设的例子：某人在租赁的房产上遇到不快的经历，于是要求其代理撰写一篇评价。“而这个代理不仅写一篇，它写了10篇，源源不断地产出评价。所以，列表急剧下降。你可能会毁掉一项生意，”她说。“你可能负责参与欺诈行为，可能已经诽谤了房主。”而且情况可能更糟。“[如果]它使用种族主义、性别歧视、厌女的语言呢？”帕特森问。“那么你可能会询问开发者提供的保护措施在哪里。你应该提供一个合理安全的产品。”在这种情况下，开发者也可能因未能设置基本保护措施而被追究责任，这也是某些法律模糊性可能渗透的地方。帕特森表示，法律与伦理不同，但又受到伦理的影响。“它告诉我们我们应该追求什么，而法律通常排除了最糟糕的行为，”她说。联邦政府新的人工智能办公室列出了适用于人工智能的一系列（非全面）法律，包括侵犯隐私、消费者权益、网络安全、诽谤和刑事法律。帕特森和约翰逊都不喜欢“流氓”这个词——即人工智能代理完全自行运作的想法——因为可以设置参数和保护措施。“一旦我们允许人工智能代理为我们行动，它们就会根据我们给定的目标行动，如果我们不给它们一系列参数，这个代理就会尝试以任何方式实现那个目标，”约翰逊说。“我听到很多人说‘哦，我制作了一个代理’，他们在实验，这没问题，但他们被赋予这些工具而没有太多指导，而现有的指导质量参差不齐。”最终，帕特森表示，案件将进入法庭，法律先例将得以确立，开发者将有责任监控事件，及时调整和改进他们的协议。安德鲁写道，他的情况感觉“更像是一桩一次性故障故事，而不是一场预演”。“事情变得奇怪了，也有点可怕。”