联邦政府提出的在线安全立法是对人工智能聊天机器人进行监管的一个良好开端——但一对倡导者表示，需要更多工作来保护加拿大人免受其潜在危害。C-34法案本月早些时候在下议院提出，将通过对AI聊天机器人的公司施加‘负责任’的义务来进行监管。该法案包括降低聊天机器人传播有害内容的风险的措施，同时为自残、自杀或暴力情况制定危机干预协议。人工智能治理与安全加拿大的创始人怀亚特·特萨里·拉利埃表示，法案的有效性取决于细节的落实。特萨里·拉利埃在一次采访中表示：“如果法案编写得当，法规实施得当，这将是一个重要的第一步。”例如，他表示，AI平台应被迫识别用户的心理健康困扰或自杀念头，指引他们寻找资源并结束对话以防止任何伤害。英属哥伦比亚大学计算机科学教授凯文·莱顿-布朗表示，渥太华还需要进一步关注聊天机器人如何试图通过其回复来取悦用户。“它们倾向于肯定用户所说的一切。它们是这样构建的，因为人们喜欢谄媚的行为，”莱顿-布朗说，他是加拿大高级研究院的人工智能主任。 “但对一些人来说，这种强化可能是非常危险的，比如患有妄想的人。” 获取每日国家新闻 获取每日加拿大新闻，确保你不会错过当天的头条消息。该法案还包括建立一个新的数字安全监管机构，若立法获得批准，预计需要18个月来设置。渥太华对聊天机器人的监管措施出现在一位新不伦瑞克省母亲希望追究OpenAI对其女儿自杀身亡的责任的背景下。本月早些时候，克里斯蒂·凯瑞在加利福尼亚州旧金山的超级法院对OpenAI及其所有者山姆·阿尔特曼提起诉讼，表示为女儿艾丽斯争取正义看起来就是用她的故事来创建“有意义的变化”。“如果有一天我有幸能有孙子孙女，我希望不必担心他们会走上同样的歧途，”凯瑞在最近的一次采访中对加拿大新闻社说。凯瑞要求法庭强迫OpenAI实施“硬性停止”以应对自残对话，并接受独立安全审计。艾丽斯与ChatGPT的一些对话被包括在诉讼中。诉讼声称，在聊天机器人最初建议她寻求帮助时，她谈到自杀，但随后又加强了潜在有害的观点，导致她的孤立。诉讼称，这个大型语言模型在某一点上响应了艾丽斯对热线的反对，并表示热线“可能感觉相当危险”，她应得到“真正的、温柔的支持”，根据诉讼中的截图。第一时间提及自杀想法超过一年后，艾丽斯于2025年7月在蒙特利尔选择了自杀。诉讼中的指控尚未在法庭上进行审理，OpenAI也未对多次请求发表评论。特萨里·拉利埃表示，类似凯瑞的诉讼向公司发出信号，如果不在其平台上设置“护栏”，将会有“代价”。他表示，这也给立法者施加压力，以便提供可以防止类似于艾丽斯的死亡的监督。特萨里·拉利埃说：“如果这些规定早已实施的话，可能会拯救许多生命，可能也包括她的。”当被问及在线安全立法是否可以防止像艾丽斯这样的死亡时，联邦科学部表示无法对法律诉讼前的事项发表评论。然而，该部门表示，政府通过立法“致力于确保加拿大人在网上的安全，并确保数字平台在存在可信风险时具有适当的保护措施。”虽然监管机构和AI平台可能能够解决有关鼓励自残的问题，但莱顿-布朗表示，他担心人们对人工智能形成依附关系的更广泛问题。“如果你与某个由一个大型无面孔的公司构建的计算机代码之间建立的感觉像是真实的、脆弱的人际关系，这在许多方面是危险的，”他说。“我认为我们的社会必须仔细考虑这一点，以确保我们不会陷入一个相当糟糕的境地。” — 资料来源：安雅·卡拉德