英伟达支持印度初创公司,帮助企业以更少的GPU运行AI模型
随着AI热潮对计算能力的压力加大,英伟达支持印度初创公司Simplismart进行了一轮1400万美元的融资,押注于帮助企业更高效地运行AI模型的软件,有时甚至可以使用更少的GPU。英伟达与Accel、Shastra VC和Micromax共同参与了这一全主投资的B轮融资,达拉斯风险投资公司主导了此次投资。此交易将这家成立四年的初创公司估值约为1亿美元,包括新融资在内。如今,企业在GPU上的支出十分庞大,以支持AI应用,但在大规模可靠和经济地运行这些模型仍然是一个挑战。不同的工作负载需要在速度、成本和性能之间进行不同的权衡。部署和操作AI模型以满足业务需求也常常需要复杂的调整。Simplismart表示,其软件自动化了许多工作,定制了模型在现有计算基础设施上的运行方式,而不是要求客户自己管理这些配置。Simplismart的联合创始人兼首席执行官阿姆里坦舒·贾因(如上图所示,左侧)在采访中表示:“实际上没有人需要最快或最便宜的推理。”他补充说,企业所需要的是以适合其特定应用的速度和成本运行AI模型。Simplismart的软件位于AI模型和运行它们的计算基础设施之间,并调整模型的部署和管理方式以满足客户的要求。它表示能够优化模型响应速度、处理的请求数量以及消耗的计算能力等因素,帮助企业更好地利用现有的GPU资源。该总部位于班加罗尔的初创公司为企业提供通过其自己的平台或在现有的云和本地基础设施中部署和运行AI模型的方法。它还提供工具,以便根据需求变化自动调整计算资源,并监控性能。此外,Simplismart允许云服务提供商使用其软件在GPU基础设施上构建和操作自己的AI推理服务。Simplismart表示,它帮助AI视频生成平台InVideo将GPU服务成本降低了56%。该初创公司还与AI视频公司HeyGen和Higgsfield以及企业AI初创公司Ema等合作。此外,印度云服务提供商Yotta使用Simplismart的技术为其Shakti Studio平台内的无服务器AI推理服务提供支持。贾因告诉TechCrunch,Simplismart的年化收入跑率在过去六个月内增长了14倍,达到了八位数的总额。这个数据是基于近期客户的使用情况,而不是合同的经常性收入,并且不包括传递给基础设施提供商的收入,该公司表示。他没有披露确切的数字。贾因表示,尽管这家初创公司在印度拥有更多的客户,但其超过一半的收入来自美国。除了投资外,英伟达还一直在与Simplismart合作进行技术集成,包括其Dynamo推理软件,贾因告诉TechCrunch。该合作涉及Simplismart的工程师与英伟达的解决方案架构师,而英伟达还帮助引荐初创公司给潜在的客户和合作伙伴,贾因表示。有趣的是,这项投资呈现出一个明显的矛盾,因为英伟达作为AI芯片的主导供应商,正在支持能够帮助企业使用更少GPU运行某些工作负载的软件。然而,贾因辩称,提高AI推理效率最终可能使英伟达受益,从而使其硬件对客户更具吸引力,并鼓励更广泛地采用AI应用。Simplismart在日益拥挤的AI推理软件市场中为客户提供服务,与英伟达本身以及包括亚马逊网络服务、谷歌云和微软Azure在内的主要云服务提供商和超大规模服务商的产品竞争。越来越多的初创公司也在开发工具,以使AI模型的运行更加快速和便宜,因为这一领域的需求不断增长,推动因素包括对AI应用的需求上升和更好地利用昂贵的GPU资源的需求。贾因表示:“我们倾向于在客户需要更严格的服务级别协议(SLA)和总拥有成本(TCO)的情况下获胜,”他说,这涉及到严格的性能要求和紧凑的成本约束。与竞争对手提供的预设快速或便宜推理选项不同,Simplismart旨在为每个客户的需求找到一个量身定制的平衡。由前甲骨文工程师贾因和前谷歌工程师德万什·戈塔克(如上图所示,右侧)于2022年创办的Simplismart源于二人在构建和部署机器学习系统过程中的经验。两人在比尔斯·比兰大学学习时相识,而该初创公司目前雇佣58名员工,贾因表示。
阅读全文 →本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡