我研究深度伪造技术已经超过25年。这就是为什么人工智能使您几乎无法知道什么是真实的。由劳埃德·李讲述。您当前正在关注这位作者！想要取消关注？通过您电子邮件中的链接取消订阅。数字取证专家哈尼·法里德表示，人工智能在制作逼真的视频和照片方面变得越来越有效。 版权归GetReal公司所有。此文是基于与哈尼·法里德的对话，他是一名数字取证专家以及加州大学伯克利分校的前教授。法里德还共同创办了GetReal，一家数字取证和网络安全初创公司。该文已被编辑以便简化和清晰。如今，互联网上的普通人无法判断其信息流中的图像、视频或音频录音是否真实。我们对此进行了感知研究。人类的视觉和听觉系统根本无法可靠地完成这一任务。这并不意味着我们无法识别。我们有计算和数学工具。你给我们一段内容，一点时间？是的，我们会搞清楚。但我们在GetReal（我共同创办的数字取证初创公司）所做的与普通人在社交媒体上随意翻阅所能做到的区别很大。 我从几乎不存在这个领域时开始研究数字取证，我1999年在达特茅斯学院开始了我的学术生涯。很难记得'99年。我们生活在一个几乎是模拟的世界。我们仍在用胶卷拍照。数码相机的出现正处于萌芽阶段。互联网也在初步发展，但几乎没有什么。社交媒体几乎不复存在。没人知道这会朝哪个方向发展。我开始思考数字证据在法律法庭上本质上是易变的。当时，没人认为这是一个问题，他们也确实是对的。我认为这可能会成为一个问题，因为数字革命不太可能停止。因此，我们开始了这个非常小众、利基的奇怪领域——数字取证——只有我和一群在达特茅斯写论文的优秀研究生。每个人都在想：“这真不错，但这与什么有关？”然后数字化开始起飞。公民记者出现了。我们开始看到美联社和路透社说：“嘿，我们如何知道某个人提交的这张照片是否真实？” 多年来，问题的范围从每月收到媒体和法庭的询问一次，到一年国家安全方面一次，再到每天都出现。突然间，我们的整个世界颠倒过来了。 在早期，伪造图像常常留下线索 在我所研究的早期，我主要考虑照片。视频很难操纵。它每秒24到30帧，还有音轨。使用像Photoshop这样的工具，图像较容易操纵。好消息是，这种操纵仍然需要技能。因此，你会发现错误。你会发现伪影。不匹配的阴影，错误的几何形状，错误的尺寸。有时你会得到元数据，显示照片是在Photoshop中编辑的。如今，你不需要技能。你不需要时间。你不需要任何东西。你只需要一个键盘和互联网连接。你可以输入“对这张图像、音频或视频做这个”，人工智能接管并能做出令人惊叹的事情——这些是在五到十年前不可想象的事情。 人工智能生成的内容变得难以区分 与任何技术一样，你不能只关注当前的状态。你需要关注未来的发展。我们知道会有那么一天，内容会在视觉上难以区分——不一定是在计算上，但在视觉上。图像可能是第一个穿越不安谷的。然后是声音，伴随着语调、笑声和停顿。视频现在也正在穿越不安谷。如果有人给我一段30分钟的高清视频，那可能不是人工智能生成的。但如果视频是15到30秒——这是你通常在网上看到的视频——仅凭视觉线索很难判断。至少现在是这样。以前，人工智能生成的视频大约只有四秒钟。现在，有些视频通过拼接达到了30或40秒。内容将会变得更好。这将变得更便宜，更易于使用。并且将变得无处不在。 我们可以调查伪造内容，但互联网的速度更快 生成性人工智能对三维世界一无所知。它不知道物理和阴影。我说“知道”时加上引号。人工智能能够生成一些对人脑来说相当不错的东西。但其中的物理特性却微妙地不正确。只要你所做的事情在物理上是不太可能的，我们就有一个可检测的信号。有时，发现伪造的内容可能真的很快且相对容易。一旦你发现了什么错误，你就算完成了。另一方面——对某件事的认证——要困难得多。你一遍又一遍地进行测试，但没有发现任何问题。这是否意味着它是真的？不一定。这意味着你没有找到任何东西。平均而言，这项工作可能需要大约一个小时。但在互联网上，一个小时是很长的时间。