该公司还在推动立法，以应对人工智能可能带来的大规模诈骗风险。Engadget的Steve Dent报道，谷歌起诉了一家中国网络犯罪团伙，因其使用Gemini AI实施了"大规模"的诈骗行动，该公司在一份声明中表示。这家搜索巨头正与FBI及运营商AT&T、T-Mobile和Verizon协调， dismantle 该诈骗网络。谷歌还提倡更新法律来应对人工智能驱动的攻击，称这一技术有潜力"超级增强"威胁。谷歌首席法律顾问DeLaine Prado在接受《纽约时报》采访时表示："这是我们首次协调的努力和诉讼，显示出这个特定诈骗案件的影响范围之广。"在诉讼中，谷歌指控名为外部企业（Outsider Enterprise）的中国组织利用其技术和品牌进行诈骗，要求法庭发布限制令以关闭该网络。该组织 allegedly 利用Gemini创建了模仿谷歌、YouTube和包括美国邮政局和纽约E-ZPass收费服务在内的政府机构的网站。由于谷歌控制着Gemini，因此并未披露其为解决该问题所采取的内部措施。谷歌表示，该诈骗已经影响到“数十万受害者”，损失估计达到数百万。该组织创建了9000个虚假网站和100万个欺诈性URL，并在短短两周内创建了55000条被Android用户标记为垃圾短信的信息，以及250万条带有欺诈性网站链接的信息。谷歌指出，这一切都来自一个单一的行动，这也是它倡导不低于七项两党法案以遏制未来人工智能诈骗的原因。这些法案包括“国家打击诈骗法案”、“诈骗预防战略工作组法案”、“保护老年人免受诈骗法案”和人工智能计划法案。宾夕法尼亚州的国会议员Brian Fitzpatrick（共和党）表示：“这不是垃圾邮件。这是通过我们的手机进行的有组织的跨国犯罪，需要与威胁本身一样协调和积极的回应。”FBI助理局长Brett Leatherman补充说：“犯罪分子越来越多地利用人工智能使这种欺诈看起来更可信，更难以检测。我们需要一种永久性解决方案来将他们绳之以法。”