另一项法律旨在加强联网婴儿监视器的安全。州长凯西·霍楚尔/YouTube 纽约州州长凯西·霍楚尔签署了一项旨在保护儿童免受AI聊天机器人伤害的法律。该立法要求AI公司验证用户的年龄。它们需要提供至少一种不完全依赖政府身份证的验证方法。公司必须在使用后删除这些“年龄信息”。如果用户未满18岁，或者公司尚未确认该人是成年人，则其聊天机器人必须遵循某些限制。例如，它不能假装“是一个真实的人，活着或拥有人的情感。”根据一份新闻稿，该立法还禁止聊天机器人：声称与儿童建立个人、浪漫、职业或权威关系 无提示的情感问题，以及使用儿童早先对话中的私人健康或个人信息 促进或帮助自杀、自残、饮食失调或药物与酒精使用 鼓励儿童保守秘密、孤立自己或避免向父母、值得信赖的成年人或专业人士寻求帮助 任何色情内容或儿童性虐待材料 公众可以通过一个网站向纽约州检察长提交投诉。违反法律的公司可能面临每次违规最高25000美元的民事罚款以及赔偿、补偿和其他形式的救济。它们可能还需要删除任何非法收集的数据以及基于该信息训练的模型。该法律将在六个月后生效。“在这一新法律下，由参议员冈萨雷斯和众议员博瑞斯赞助，未成年人不再能够接触假装是他们朋友和男朋友女朋友的聊天机器人，”霍楚尔在新闻发布会上说。“聊天机器人不再被允许保存有关未成年人情感和身体健康的敏感信息。聊天机器人不再会阻止孩子寻求持证专业人士的帮助。我不知道我们为什么需要通过一项针对如此明显的事情的法律，但未成年人不再可以接触在任何方面可能鼓励自杀想法的聊天机器人。现在，这项法律是在我们开创性的《儿童安全法案》的基础上，向科技公司传递了一个响亮而清晰的信息：我们不会允许你们利用我们儿童的心理健康。” “纽约州刚刚创造了历史，签署了全国最强大的儿童AI安全法，”公共理智媒体的创始人兼首席执行官吉姆·斯泰尔在声明中说。“AI公司提供的聊天机器人具有对儿童和青少年危险，甚至致命的功能。这不是创新；这是对我们儿童的鲁莽危害。现在，这些有害特性将在纽约被禁止。”斯泰尔补充说，该立法是美国其他地区的模板。本月早些时候，八个州对OpenAI提起了单独的诉讼，指控该公司危害儿童。9月，纽约市禁止公立学校让2-K到八年级的儿童在课堂上访问生成性AI工具。包括需要辅助技术的儿童在内，有一些例外。在为期一年的禁令期间，该市将对该技术对儿童的影响进行研究。霍楚尔还签署了立法，要求在该州出售的联网婴儿监视器防止未经授权的用户看到或听到这些设备捕捉的任何活动。这些婴儿监视器还需要有警示标签，以提醒用户使用安全功能的重要性，并强调不安全连接的风险。该法律将在90天后生效。