Laurence Dutton/E+/Getty Images 关注ZDNET：将我们添加为谷歌首选来源。 ZDNET的关键要点 深度伪造和AI克隆变得越来越复杂，很难被检测到。 高级攻击涉及长时间的渗透公司的系统。 专家建议采用低技术安全协议，提供更好的防御。 2024年1月，专业服务公司Arup的一名员工与一位他们认为是公司首席财务官的人进行视频通话。 这次通话导致了向第三方账户转账1500万美元。 视频通话另一端的每位参与者都是根据Arup高管的公开露面和收益电话生成的AI克隆。 另请参见：抵御AI驱动威胁行为者的6个关键策略 “看到和听到某人已经不再是他们真实的证明，” GrackerAI的技术首席执行官Deepak Gupta在与ZDNET讨论Arup事件时表示。 “任何依赖‘我认出了他们的面孔和声音’的协议现在都已失效。” 我们生活在一个后真相的世界，员工每年处理数百万美元公司的资金。 错误可能会很昂贵，即使攻击没有直接导致资金损失。 随着时间的推移，客户信任的损害和因法规不合规而产生的罚款就足以使一家本来盈利的公司破产。 当网络欺诈不再留下签名，你如何保护你的组织？ 像GrackerAI的Gupta和B2B网络安全公司S2i2的CTO James Scobey这样的安全专家认为答案就在于曾被认为过于简单的低技术系统。 没有明显的特征 实时语音和视频通话在大多数企业历史中一直是身份验证的金标准。 这些技术在认证高价值交易、交换敏感医疗数据或讨论法律重要事项时至关重要。 另请参见：43%的公司已经经历过AI驱动的网络攻击 但在过去五年中，这一标准被日益增强的深度伪造悄然侵蚀，这些深度伪造以惊人的速度更好地模仿人类行为。 以往有一些特征，比如背景噪音、合成语音调制和明显缺乏呼吸声。 然而，深度伪造技术已经超越了这些经过验证的特征，识别你的数字同事是否真实变得困难。 近期的伦敦大学学院研究发现，听众仅能以约73%的准确率识别深度伪造。 即使经过适当的训练和对深度伪造样本的熟悉，准确率仅提高了3.84%。 就在一年后，来自杜伊斯堡-埃森大学和印第安纳大学的研究人员汇总了56项类似研究的结果，发现人类检测率在准确性方面实际上接近于随机。 “特征仍然具有边际价值，作为支持信号，” S2i2的Scobey解释道。 然而，依赖这些技术作为有效控制已经不再是选择，因为它们训练员工在攻击期间依赖他们的感知，而这正是这些诈骗者所针对的感觉。 美国国家安全局、联邦调查局和网络安全与基础设施安全局（CISA）发布的联合信息资料也排除了传统的自动检测协议，这些协议可视化语音或视频内容中操纵的证据。这些方法假设可以找到和记录统计上显著的操纵痕迹，而这不再一定是实际情况。 更加令人担忧的是，随着技术的不断发展，社会工程攻击不再局限于一次性的金融诈骗，而是扩展到对公司系统的长期渗透。 另请参见：AI图像欺诈明年将导致400亿美元损失 - 这些国际标准能否有所帮助？ Gupta指出了2024年涉及安全培训公司KnowBe4的事件，该公司成为身份欺诈的受害者。 KnowBe4在面试和筛选后雇佣了一名攻击者，这个个人在筛选时没有被标记为可疑。他们甚至在意识到该员工是一个利用设备上传恶意软件到他们系统的北朝鲜特工之前，为其提供了工作站。 “这几乎是诗意的，” Gupta在回忆这一事件时说。“这是一个安全培训公司；他们的整个业务是教人们识别这样的社会工程诈骗。” 他还补充说，北朝鲜攻击者一直在规模化地进行这种操作，每年派遣数千名假工人冒充美国和欧洲公司的员工。 2025年美国司法部的一份公开声明还表明，北朝鲜攻击者在美国、中国、阿联酋和台湾的合作者的协助下进行操作。 谷歌威胁智能组自2022年开始调查类似事件，其中相当一部分现在已针对...