Meta的智能眼镜意味着任何孩子都可以被秘密拍摄。在人工智能时代,我们如何应对这种风险?
我花了一段时间才意识到坐在我旁边的男人在火车上做什么。他在翻看手机上一个小女孩的照片;放大一些,裁剪图像。当然,这并不算异常,除了仔细一看,这些照片显然是对面坐着的那名幼儿,正与她的父母玩耍。在一列大多数人都无意识地盯着自己手机的拥挤火车上,一个陌生人在一遍又一遍地偷拍那个小女孩。如果不是因为那个非常明显的手机屏幕暴露了他,他就不会被发现。那次遭遇已经有一段时间了,但在上周听到Meta可穿戴设备副总裁亚历克斯·希梅尔(Alex Himel)在BBC上怀念地谈论如何用他的新智能眼镜录制女儿在才艺比赛中唱歌的场景时,这段记忆重新浮现。他说,这让他在不需要通过屏幕观看女儿的情况下捕捉到记忆,让他能够“在当下生活,抬头而双手自由”。到目前为止,这听起来很美好。但关于这些眼镜可能被潜在的变态利用来秘密拍摄别人女儿的风险又该如何呢?Meta的智能眼镜框架上有一个微小的闪烁警示灯,指示佩戴者正在录制,但这一技术仍然足够新,许多人未必会去注意。并且在人工智能时代,孩子的被盗影像是非常重要的。无论是生活中拍摄还是从互联网中抓取,它们都是生成极端和令人不安的逼真儿童虐待材料的原材料(如果这听起来像是一种阴郁但最终相对无害的犯罪,互联网监察基金会在最近的一份报告中警告说,AI生成的材料有可能助长对儿童的性兴趣,正常化暴力,并增加现实生活中犯罪的风险)。当谷歌在2013年推出第一款智能眼镜时,并没有引起热潮:太过书呆子形象,但也可能太过诡异,因为这给跟踪者、恶作剧者、收集情报的罪犯和压迫性政权中的执法机构提供了可能性。但科技巨头们并没有放弃将人们与互联网更无缝连接的梦想,更新版本吸取了过去的教训。Meta的眼镜更酷,与Ray-Ban和Kylie Jenner合作,并以“不要错过任何时刻”这一健康标语公开宣传给父母。想要捕捉宝宝的成长里程碑,或者在和孩子呆在一起时偷偷做所有事情——查看电子邮件、在线购物、听播客——而不愿意离开他们的视线?这对忙碌、内疚、多任务处理的父母来说是吸引人的卖点。但关于秘密拍摄的保护问题对于许多托儿所和学校来说非常真实,他们已经开始禁止这些眼镜进入校园。然而,故事的一个转折点是,使其在社交上不可接受的风险是造成自己的受害者:这项技术对盲人来说可能是改变生活的,帮助他们自信地避开障碍或即时将文本翻译为音频。Meta辩称,确保他们不“主动利用”技术是个人的责任,这让人不禁想知道它是否从观察人类如何使用其社交媒体平台中学到了任何东西。监管的选项可能包括为数字时代设计的新隐私立法,迫使制造商在眼镜录制时更清楚地表明——甚至可能使用听得见的警告,比如倒车卡车的鸣笛——至少在我们都准备好对戴眼镜的人多看一眼之前。但由于这会使佩戴者感到极度尴尬,因此不太可能让寻求丰厚市场的科技公司感到高兴。另一个选择可能是让制造商而不是佩戴者对恶意使用负责——尽管这可能意味着漫长而缓慢的诉讼,最终的结论将远在损害发生之后。与此同时,核选择将是为新兴技术提供市场前监管机制,承认其可能造成的社会伤害,就像我们对新药物或新食品的清除一样。最佳选择可能是历史上最不可能发生的:视力短浅的科技行业开始更好地预见和设计潜在的危害,哪些应该是显而易见的。有些事情,显然,不需要智能眼镜来看到。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡