独家报道 这家初创公司筹集了2100万美元来清理对公司造成影响的AI代理混乱 作者：Stephen Council 您当前正在关注这位作者！点击取消订阅邮件提醒。Opsin的联合创始人Jeremy Mailen、James Pham和Oz Wasserman。Christopher Denise/Opsin AI代理在许多高科技工作场所开始超过人类，而它们的监控也变得更加棘手。AI安全和治理初创公司Opsin于周四宣布筹集了2100万美元，以应对这一时刻。随着企业界员工将OpenAI和微软等公司的AI代理投入到越来越多的工作中，该公司正在帮助管理这新一批可能存在风险的入侵者。非技术人员部署代理变得前所未有的简单，这些代理是基于AI构建的自主软件，能够完成任务。随着员工将软件注入公司的工作、代码和数据库，他们可能会失去对AI实际做了什么的视线。当Opsin的首席执行官及联合创始人James Pham意识到安全顾虑正在减缓AI的使用时，他决定是时候扩大他的公司了，他告诉Business Insider。“代理实际上与人类的相似之处比你想象的要多，”Pham说。“原因在于你无法理解一个人头脑中发生的事情，但你可以通过他们的行为来判断他们。”Opsin的目标是提供一个全面的视图，展示AI代理在组织内部实际在做什么，以及这些行为可能带来的风险。SYN Ventures和Race Capital主导了这家大约20人的公司的新一轮融资，资金将用于扩大其销售和工程团队。安全专业人士需要清理一场AI代理的混乱 Pham是麻省理工学院的校友，他和另一位联合创始人Oz Wasserman在Abnormal Security公司相遇，并于2022年离开。当他们决定创办一家公司的时候，Pham表示他们与数百人进行了交谈，以了解将AI引入企业所面临的担忧。敏感数据的问题凸显了出来。Pham表示，许多人提出担忧，认为AI代理可能会访问和滥用个人或机密信息。目前，Opsin帮助客户展示代理在哪里活跃，访问了哪些工具和数据，最初是为了什么目的创建的，以及哪些代理可能需要清理。然后，该公司提供持续监控公司的工作，监管代理，并标记出风险行为。“归根结底，这一切都与用户的行为和代理的行为有关，”Pham说。他表示，尽管在一些技术水平相对较低的公司中，代理的规模让一些客户感到震惊。在Opsin合作的某家公司的情况下，一位首席财务官制作的代理无意中给予其他员工访问财务信息的最高权限，Pham说。AI的网络威胁可能意味着市场繁荣 网络安全行业一直处于疯狂状态，而代理的增长正在加剧这种风暴。支持Opsin的网络投资者Glenn Chisholm告诉Business Insider，随着公司使用更多AI产品，黑客会找到更多目标。“使用的人越多，攻击者获得访问和购买的机会就越容易，”Chisholm说。今年网络防御类股票飞涨，Chisholm表示他见证了更多风险投资的投资。Anthropic和OpenAI正在网络安全领域积极招聘。Opsin希望使公司在使用Microsoft Copilot、ChatGPT企业版和其他产品时感觉更加安全。Chisholm对行业将适应AI持乐观态度。“未来几年，我们将努力探索如何从中获得最大收益，而不是恐惧这一概念，”他说。有任何建议？通过电子邮件联系本记者，邮箱是scouncil@businessinsider.com，或者通过短信、Signal、Telegram或WhatsApp联系，号码是415-757-8198。使用个人邮箱、非工作WiFi网络和非工作设备；请参阅我们的安全信息共享指南。阅读下一篇 Business Insider为您讲述您想了解的创新故事 Business Insider为您讲述您想了解的创新故事 Business Insider为您讲述您想了解的创新故事 Business Insider为您讲述您想了解的创新故事 Stephen Council 您当前正在关注这位作者！点击取消订阅邮件提醒。Stephen是Business Insider的高级科技记者，涉及OpenAI、Anthropic以及围绕领先人工智能公司的生态系统。此前，他在SFGATE负责科技报道，并为《华尔街日报》、《信息报》和CNBC撰写过文章。他在西北大学学习过新闻和经济学。他的工作获得了旧金山新闻俱乐部的调查报道奖，并在2025年获得SPJ NorCal技术报道的优秀新闻奖。Stephen居住在旧金山。通过电子邮件scouncil@businessinsider.com与他联系，或通过Signal、Telegram或WhatsApp与他联系，号码是415-757-8198。使用个人邮箱、非工作WiFi和非工作设备；请参阅我们的安全信息共享指南。