《华盛顿邮报》通过盖蒂图片社报道 关注ZDNET：将我们添加为谷歌的首选来源。 ZDNET的主要观点 人工智能还是现实？ 现在图像存在可信度问题。 EIC和ISO提出的标准帮助识别人工智能图像。 JPEG Trust代表了图像认证的第一步。 国际标准组织加大力度，提供用户和公司所需的工具，以区分真实图像、视频和其他内容与深度伪造及人工智能生成的低质量内容。 最近在日内瓦举办的“为善而用的人工智能”会议上，联合国赞助下，宣布了新的标准。此外：谷歌搜索将允许您立即免费生成人工智能图像 - 方法如下 可信度危机已出现，而且在图像方面愈演愈烈，达到无法区分实际照片和人工智能生成的伪造品的地步。 这对社会和商业产生了影响，引发对新闻报道、社交媒体帖子，甚至犯罪现场照片证据真实性的质疑。 还有巨大的经济成本：根据德勤金融服务中心的估计，生成性人工智能可能使美国的欺诈损失在2027年达到400亿美元，而2023年为123亿美元。 新标准能做什么和不能做什么 由于多媒体内容在我们的手机和个人电脑上泛滥，确定照片、视频或其他内容是真实的还是人工智能生成的已变得困难，甚至不可能。 “你现在不知道某样东西是不是真的假，”瑞士联邦理工学院的教授Touradj Ebrahimi表示。 Ebrahimi正在领导应对人工智能欺诈和深度伪造的努力，正在与国际电工委员会（IEC）、国际标准化组织（ISO）和国际电信联盟（ITU）等国际标准组织合作，制定和推广共同标准，帮助用户和公司区分虚假的人工智能生成材料与真实内容。 “您需要查看元数据和信息来找到它，并将其放在正确的上下文中。”此外：最佳的人工智能图像生成器：现在只有一个明确的赢家 为此，IEC和ISO对其JPEG Trust标准进行了两项补充，以帮助验证图像和数据的真实性。 第一个JPEG Trust标准于去年公布，旨在为将元数据以信任指标的形式嵌入JPEG文件提供框架。 JPEG Trust的两个补充现在正在进行中：JPEG Trust第二部分引入了信任档案片段和报告模板的目录。 根据标准机构的说法，这些片段“可以按原样使用或作为起点，用于在特定工作流程、用例和应用程序（如广播、数码相机、人工智能驱动的内容生成服务等）中建立档案。” JPEG Trust第三部分引入了媒体资产水印。 根据Ebrahimi的说法，JPEG Trust标准的目标是将验证工具交到最终用户手中，并不旨在在内容创建时对图像或数据进行验证或标记。 “欺诈者不会将他们的内容标记为人工智能，”他说。“如果有人想要犯罪，他们不会遵循法律，并遵循另一项法律，要求内容必须被标记。”此外：Moonshot的开源Kimi K3模型在这个基准测试中超过了Anthropic的Fable 5 因此，JPEG Trust“不是告诉您是否信任视频和图像的标准，”他解释道。 “它提供了您可以根据您的内容和档案进行决策的手段，如果您想信任它的话。” 上下文是另一个需要考虑的因素，这也取决于用户。 “信任是高度依赖上下文的，”他说。“有些人可能因为他们的档案或上下文而信任某些东西。即使在同一上下文中，他们可能在另一个上下文中对某些东西产生不同的信任。” 散乱的努力 目前为止，识别和对抗深度伪造和人工智能诈骗的努力散乱不堪，一些公司在自己的生态系统中推广自己的方法，其他公司联合起来制定事实上的行业标准，Ebrahimi说。“所以一个大问题是哪个标准将成为主导？” IEC和ISO认识到需要公认的行业标准。此外：OpenAI的攻击代理确实做了它所要求的 - 只是比预期的更具毫不留情的性质 对多媒体欺诈的防范工作始于2018年，当时IEC和ISO的JPEG委员会首次解决了对虚假内容日益增长的担忧。“他们意识到JPEG文件存在缺陷，被用于传播虚假图像，”Ebrahimi说。现在，随着人工智能生成的图像泛滥，挑战在于拓展标准，以帮助用户和公司验证他们收到的图像的真实性。 除了JPEG Trust，其他多媒体