2026年8月4日 — 下午7:30，一家由儿童虐待幸存者创办的澳大利亚公司正在向托儿所引入一种机器学习系统，以标识可能处于危险中的儿童，因该行业面临着在保护年轻人隐私与确保他们安全之间取得平衡的挑战。该警告系统在全国日托中心的推广，正值该行业自国家质量框架实施以来进行最大安全改革之时。SAFE首席执行官鲁比·奥鲁克表示，该公司名字命名的SAFE系统已经在超过1000个早期儿童服务中投入使用。教育工作者记录日常观察——淤伤、错过的餐食、接送时受药物影响的父母——机器学习模型将这些片段转化为可能最风险儿童的实时图像。家长无需选择加入；该公司表示，当家庭为孩子入托并同意其专业系统时，即视为已给予同意。首席执行官鲁比·奥鲁克是一位长期的儿童权利运动者，2019年曾竞选联邦议会，她的童年经历包括被强迫收养、家庭暴力和虐待，她表示这一切最终 culminated于一名家庭成员在墨尔本的一条溪流中将她按入水中。路过者将她救了起来。该家庭成员从未被起诉。她的论点是，这一切并不是隐形的。“学校、布朗尼、女童军，所有这些信号都被忽视了，”她说。几年后，邻居告诉她，他们听到了她的尖叫，却没有做任何事情。“如果我能用任何东西结束我的生活，”她说，“那就是知道下一代在表面之下有这个SAFE的保护层”——她称之为处于严重风险儿童的“飞行控制塔”。奥鲁克在2000年代中期开始开发儿童护理软件；预测层是在2012年与国家信息与通信技术研究中心（NICTA）合作开始的，该中心现已并入CSIRO。SAFE的联合创始人大卫·萨拉贾恩（David Salajan）将SAFE描述为机器与人工审查者的结合。“这只是一种观察，无论大小，”他说。该软件返回一个风险评分，并提供关于该担忧是否达到强制报告阈值的指导；每个案例随后由前儿童保护工作者审核。一个全国性仪表板由SAFE团队查看，而不是日托中心工作人员，优先排序每个案例，以便他们能够看到哪些儿童面临最高风险。该项目在儿童护理行业动荡时刻落地。监管该行业的国家法律于2月27日生效，使儿童安全成为首要的法律考量，创建了工作者登记册，并要求照护者在8月27日之前参加儿童安全培训。一项价值2.26亿澳元的政府计划还资助全国监控摄像头试点。此次改革跟随了最近的虐待案件，例如昆士兰州工人阿什利·保罗·格里菲斯（Ashley Paul Griffith），因对73名儿童犯下307项罪名在2024年被判终身监禁。在悉尼，日托工作人员哈米什·亚历山大·爱德华·泰特（Hamish Alexander Edward Tait）上个月被捕，面临超过320项关于他对150名儿童的虐待指控。这些案件涉及日托中心的虐待，而不是由教育工作者检测到在其他地方的虐待。SAFE系统也引发了隐私问题：一家私人公司持有一个实时的、优先排序的儿童注册册，认为其面临最高风险，以及对大约20万名儿童护理行业工作人员的行为记录。澳大利亚信息专员办公室对此SAFE不予置评，但发言人表示，关于儿童在照护环境中的行为信息可能被视为个人——有时也敏感——信息，根据隐私法，有义务仅收集必要的信息，确保其安全且不再使用。发言人表示，是否入托协议算作有效同意取决于其措辞，强调同意应“知情、当前、具体且自愿”，尤其是针对儿童的信息。监管机构也在制定儿童在线隐私规范，预计在12月10日到期，预计覆盖早期儿童设置中使用的大部分在线服务。新南威尔士州/澳大利亚首都领地独立教育工会的分会秘书卡罗尔·马修斯（Carol Matthews）表示，营利性软件“无法替代每个中心对儿童安全的全面关注”。该工会在过去一年支持监管改革，但对这一技术持谨慎态度。“机器学习将隐私泄露的风险提升到一个全新的水平，”马修斯表示，警告许多服务可能没有能力保护数据。她敦促雇主在推出任何此类平台之前咨询员工。奥鲁克对机器学习系统可能加深偏见的担忧表示了不满，认为所使用的数据并不意味着偏见。