谷歌喜欢告诉我们人们如何利用其生成性AI产品来创建新事物、发展业务和拯救世界。当然，实际上人们也在利用AI进行犯罪。谷歌宣布针对一个名为‘外部企业’的中国组织采取新的法律行动，该组织据称负责一场大规模的AI驱动诈骗活动。谷歌表示它正在与执法部门和移动运营商合作，共同反击。据谷歌的法律文件，外部企业通过Telegram进行操作。该组织向那些可能没有足够技术能力独立建立欺诈网站和短信活动的个人提供了钓鱼服务。在其Telegram频道中，外部企业提供了使用谷歌的Gemini AI创建模仿谷歌、YouTube以及纽约E-ZPass等政府机构网站的说明。该组织提供了近300个诈骗模板。谷歌表示，通过外部企业启用的诈骗导致超过250万条短信发送给Android用户。上个月在两周内，这些短信达到了约55,000条。总的来说，谷歌追踪到了9,000个虚假网站和与诈骗网络相关的一百万个URL。这些短信通常声称账户出现问题或包裹投递遇到问题。当用户点击这些链接时，他们会被引导到那些看似合法的诈骗网站，这些网站是借助Gemini创建的。网络犯罪分子利用这些网站窃取个人数据和银行信息。谷歌的文件没有估算外部企业诈骗所盗取的资金数量，但博客中提到数百人已经损失了一些资金。谷歌与AT&T、Verizon和T-Mobile合作，阻止了许多这些恶意短信，并且谷歌指出其在Google消息中的设备内诈骗检测可能也帮助减少了成功的钓鱼尝试。据说这个由AI驱动的功能每月能够阻止100亿条诈骗短信，因此可以合理预期它至少抓住了一些外部企业的活动。