Meta在周四宣布，如果青少年与公司的Meta AI聊天机器人讨论自杀或自残，将通知其父母。Meta表示，它还在努力实现能够在某人的对话表明他们可能有自残风险时联系紧急服务。这些变化出现在Meta和其他科技公司面临监管机构和父母对AI聊天机器人如何回应危机用户，特别是青少年，的审查之际——这是一个日益影响AI公司设计和营销其产品的责任问题。Meta表示，它建立了一个专门的AI系统以识别青少年明确提及自残的对话。“我们理解这些警报对父母来说可能是多么令人不安，”Meta在一篇博文中写道。“这就是为什么在我们继续改善检测的同时，我们AI标记的所有聊天在发送警报之前都会进行人工审核。如果青少年的意图模糊，我们将采取谨慎态度并提醒父母。虽然这意味着我们有时可能在没有真正的担忧时通知父母，但我们觉得这是一个正确的起点，我们将继续监控，以确保我们处于正确的位置。”这些警报现在已经在美国、英国、澳大利亚和加拿大使用Instagram家长监督的父母中上线，并且Meta表示将于年底前在全球推广。这一更新在Meta已经向父母发送的警报基础上，更是在其青少年在Instagram上反复搜索自杀或自残术语时。此外，它还建立在一个功能之上，该功能允许父母查看他们的青少年在过去一周与Meta AI讨论的主题。Meta还宣布，其“有限内容”设置——允许父母将其青少年置于Instagram上更具限制性的体验——现在也适用于Meta AI。Meta AI已经接受培训以避免与青少年进行性或浪漫相关的对话或与酒精相关的讨论，而有限内容设置通过使聊天机器人拒绝更广泛的提示来扩展这些保护措施。Meta没有具体说明这些额外提示包括什么，但TechCrunch已向该公司请求更多信息。此外，Meta表示，如果某人是否为成年人或青少年与Meta AI的对话表明某人有自杀风险，将联系紧急服务。值得注意的是，当有人在Facebook或Instagram上发布表明他们有风险的内容时，Meta已采取此步骤，因此这将同样的做法扩展到与其聊天机器人的对话。当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。Aisha是TechCrunch的消费者新闻记者。在2021年加入该出版物之前，她是MobileSyrup的电信记者。Aisha拥有多伦多大学的荣誉学士学位和西部大学的新闻硕士学位。您可以通过电子邮件aisha@techcrunch.com或通过Signal上的加密消息aisha_malik.01联系或验证Aisha的联系。查看Bio