在周二，OpenAI推出了青少年版ChatGPT，这是一个针对年轻用户的年龄限制版聊天机器人。公司在去年九月首次宣布正在开发一种系统，可以自动识别青少年并限制他们使用ChatGPT，此举是在16岁少年亚当·雷恩去世后采取的，此案由他的父母提起，指控称ChatGPT助长了他的自杀行为。OpenAI青少年与家庭部门负责人劳伦·乔纳斯在接受Engadget采访时表示：“青少年无需创建新账户或更改任何内容；如果我们预测您未满18岁，或您告诉我们您未满18岁，系统会自动将此设为您的默认体验。”毫无疑问，孩子们已经在惊人的规模上使用ChatGPT。今年年初，皮尤研究中心发现，美国约四分之一的青少年在用聊天机器人完成学校作业。一旦他们开始使用青少年版ChatGPT，体验将鼓励他们使用OpenAI在过去一年中逐步推出的教育功能，包括学习模式和数据可视化。周二，公司还表示将扩大安全通知，在与其账户关联的家长被联系时，告知他们的孩子与ChatGPT讨论饮食失调等不安全话题，并发布了更新后的18岁以下模型规范。“ChatGPT不应该使用浪漫语言，不应鼓励情感依赖，或暗示它具有情感或意识，”公司提到新指南时表示。“这些更强的保护旨在加强健康、真实的现实关系。”虽然Engadget采访的一些儿童安全专家对这一发布持更积极的态度，但他们一致认为青少年版ChatGPT在推荐给父母和年轻人之前需要广泛的独立测试。他们还强调OpenAI需要更加透明地解释其安全机制的工作原理。Common Sense Media的AI与数字评估负责人罗比·托尼总结说：“这一公告做出了一些非常重要的承诺，但我们需要证据以证明这些安全承诺和功能确实有效。”Fairplay的执行董事乔什·戈林对此批评更为尖锐。“从理论上讲，OpenAI宣布的一些内容看起来是朝着正确方向迈出了一步，但深入挖掘后，仍然有很多令人担忧的因素，包括没有问责机制，”他说。“我们已经看到，信任公司在保护儿童方面并不起作用，社交媒体早已证明了这一点，OpenAI也是如此。他们在周二之前已经实施了与自杀、暴力和药物使用相关的内容限制，但这些限制并没有奏效，或随着时间的推移而减弱。”OpenAI同样质疑其自动年龄限制系统能否可靠地识别年轻人并将他们引导到青少年版ChatGPT。“我们没有来自OpenAI发布的数据，显示与该系统相关的有效性—错误阳性率和错误阴性率[...] 自动系统并未检测到100%的在用青少年，”托尼说。“想想当时OpenAI准备推出一些成人内容功能——当时的报告显示，他们没有推出那些功能的原因之一是年龄估算技术未能正确识别足够的青少年。”正如托尼所指出，想象青少年不尝试规避OpenAI的年龄估算技术也很困难，无论是通过VPN等工具，还是像我们看到Discord尝试实施年龄验证时那样的更有创意的变通方法。OpenAI最切实的承诺，也是专家们最难接受的部分。“所有被标记的内容在通知家长之前都会由全职OpenAI员工审查，我们的目标是在收到提示后的一个小时内通知家长，”乔纳斯在公告前对Engadget表示。在随后的CNN现场采访中，乔纳斯确认公司拥有确保被标记的内容经过人工审查并在一个小时内通知家长的人员和能力。“这是另一个自动决策发挥作用的地方，同样的问题适用：我们是否信任标记内容以供人工审核的自动分类器？”托尼对于这一承诺表示。“我希望看到一些具体的数据，关于他们每天标记和审查多少聊天，参与审查的人数，以及他们在每次审查中所花费的平均时间，”戈林补充道。“很难想象他们已经雇佣了足够的人来彻底审查每一个潜在令人不安的聊天。”当Engadget要求OpenAI提供具体示例时，