当电话打来时，塔里尼·帕德马纳布尼的祖父相信他在跟他的兄弟通话。电话另一头的声音说他的兄弟被绑架了，而唯一能将他找回来的方法就是支付赎金。她的祖父付了钱，后来才得知他的兄弟根本在别处，完全不知道这一切在发生。事实证明，那声音是一个深度伪造的：是AI生成的对他兄弟的模仿。帕德马纳布尼谈到这个事件时说：“让我记住的不是钱，而是他根本无法分辨出来。”那大约是两年前的事了。如今，她表示，DetectifAI这家她创立的位于旧金山的公司，旨在确保其他人无法以同样的方式被欺骗。这是一个大而日益严重的问题，还有一个相应的市场。根据FBI的数据，去年美国人因AI驱动的诈骗损失接近9亿美元，比2024年增长了24%。60岁及以上的人的损失是50至59岁人群的两倍。在深度伪造语音检测方面，竞争者层出不穷，有Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI内容安全和Nuance（微软也拥有的公司）等公司。但帕德马纳布尼认为，现有的检测产品运行在云端的远程服务器上，因此手机制造商无法将其直接嵌入设备中，这让目标用户几乎没有防御手段。与一些公司试图缩小大型云模型以适应手机不同，DetectifAI表示，它从一开始就设计了小型的AI模型，可以在智能手机的操作系统内运行。其目标是在通话、语音消息和其他音频中，实时判断语音是否为AI生成，而无需音频离开设备。DetectifAI首先向手机制造商销售，将其软件工具进行授权，使检测功能可以作为手机操作系统的内置功能进行交付。她的类比是AT&T在原始iPhone发布中的角色，运营商的独家交易使其与竞争对手区分开来：她认为，首个搭载DetectifAI的手机制造商将获得竞争优势，而深度伪造检测将成为标准规格，就像相机分辨率一样。该产品的核心是DetectifAI的软件开发工具包（SDK），这是一个其他公司可以集成到其产品中的代码包，并可以通过现有渠道获得授权。帕德马纳布尼表示，第二个收入来源将来自将这项技术授权给企业和防诈骗公司。与此同时，初创公司已经在早期获得收入，超过10万通电话为印度的金融机构处理。那些电话由AI语音代理发起，负责债务催收和后续贷款文件，每通电话都有深度伪造检测和说话者验证（确认来电者确实是他们声称的身份）。她拒绝透露客户的姓名，引用保密协议。帕德马纳布尼表示，她在12岁时开始从事机器学习，并在印度的马尼帕尔理工学院学习了网络-物理系统（将软件与物理机械连接的技术），她在那里成为她所描述的印度第一支无人驾驶赛车团队分部的最年轻队长，参加国际学生工程竞赛Formula Student。谈及创业至今最令人振奋的时刻，她提到一次小型WhatsApp的测试，用户转发可疑的语音留言，并返回评估它们是否真实。一位测试者，其亲属曾被欺骗，打电话表示他们会毫不犹豫地支付这个服务。“我祖父没有这样的选择，”她说。DetectifAI迄今已经从投资者Josh Constine（曾为TechCrunch编辑）和咨询服务公司KM Growth的负责人Manohar Kamath那里筹集了一小笔种子资金。该公司是TechCrunch编辑团队审查的初创公司之一，参与在旧金山召开TechCrunch Disrupt的著名Startup Battlefield比赛，时间为10月13日至15日。当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。Loizos自上世纪90年代末以来一直报道硅谷，当时她加入了原始的Red Herring杂志。在担任TechCrunch硅谷编辑之前，她于2023年9月被任命为TechCrunch的主编和总经理。她还是StrictlyVC的创始人，该日常电子新闻简报和讲座系列于2023年8月被雅虎收购，现在作为TechCrunch的子品牌运营。您可以通过发送电子邮件至connie@strictlyvc.com或connie@techcrunch.com联系或核实Connie的联系，或通过Signal上的加密消息联系ConnieLoizos.53。