字数 1409，阅读大约需 8 分钟
Intel Capital助力TrueFoundry获1900万美元融资，推动AI大规模部署
近日，由一群前Meta工程师创办的TrueFoundry公司获得了1900万美元的新投资，此次投资由Intel Capital领投。这一融资事件在人工智能领域引起广泛关注，将对AI部署的规模化发展产生重要影响。
TrueFoundry的发展背景与使命
自2022年11月ChatGPT推出后，生成式人工智能（GenAI）迅速崛起，各类企业都在寻求拥抱AI的途径。GenAI依赖大语言模型提供智能（即效率），对计算能力要求极高。并非所有企业都能拥有数百或数千个GPU，因此GPU优化至关重要。此外，企业需要尝试多种模型以找到最适合自身用例的模型，并对现有模型进行微调，使AI系统与自身运营相关。
TrueFoundry成立于2021年6月，创始人是前Meta工程师Nikunj Bajaj、Abhishek Choudhary以及他们在印度理工学院卡拉格普尔分校的同学Anuraag Gutgutia。公司最初提供一种跨云原生软件，以加速机器学习部署。随着2023年GenAI成为主流，TrueFoundry对其系统进行了修改，以支持GenAI功能。
TrueFoundry的技术优势
TrueFoundry通过平台即服务（PaaS）模式提供软件，面向全栈数据科学家。它具备自动缩放、主动维护、集中访问控制和实时监控等功能，可简化端到端的AI部署。
该公司提供的自动驾驶系统这一软件解决方案，利用AI查看日志和指标，通过调整GPU使用和解决内存需求来帮助扩展AI应用程序。据Gutgutia透露，使用自动驾驶系统后，TrueFoundry一个仅有两人的小团队客户每秒能处理1000万个请求。
TrueFoundry目前在全球拥有30个付费客户，还有 “大量” 用户使用其用于实验的开源RAG框架。其中，GPU巨头英伟达（Nvidia）使用该软件构建和部署优化其GPU集群的代理。医疗技术公司瑞思迈（ResMed）也利用TrueFoundry的产品开发内部AI平台。同样，西门子医疗（Siemens Healthineers）、Automation Anywhere、Games24x7和Whatfix等也是其客户。
TrueFoundry使用Kubernetes构建软件架构，使其具备多云就绪能力，并与所有主要云平台（如AWS、谷歌云平台和Azure等）兼容。此外，企业还可以在本地原生部署该平台。据Bajaj称，使用TrueFoundry的企业能够在两个月内构建并推出内部AI平台，并在四个月内实现投资回报，而行业平均时间为14个月。Gutgutia补充说，无论客户是在开发代理、RAG、复杂深度学习模型还是微调模型，TrueFoundry都能为他们降低约40 – 50%的基础设施支出，并将部署速度提高10倍。
市场竞争与TrueFoundry的优势
尽管云服务提供商已经开始提供自己的软件来简化AI模型的构建和部署，如亚马逊的SageMaker和谷歌云的Vertex，但Gutgutia认为TrueFoundry的解决方案仍然具有重要意义。它有助于为云提供商 “加速计算资源的使用”，加快AI应用的上市时间，并降低总体成本。
据相关行业报告显示，全球AI云服务市场竞争激烈且持续增长。在这个市场中，TrueFoundry凭借其独特的技术和服务，为企业提供了更高效、更经济的AI部署解决方案。
融资详情与发展计划
此次A轮融资为全股权融资，参投方包括Eniac Ventures、Peak XV Partners和Jump Capital，以及天使投资人Gokul Rajaram、Mohit Aron和Cyan Banister。此前，在2022年9月，TrueFoundry曾获得由Peak XV（当时为红杉印度）的Surge领投的230万美元种子轮融资。截至目前，TrueFoundry已累计融资超过2100万美元。
获得新融资后，TrueFoundry计划将团队从目前位于印度的45人扩大到美国的市场推广岗位，包括销售、客户成功和产品营销等角色。公司还计划投资于合作伙伴关系，特别是与云服务提供商的合作，并正在着手在关键云市场（首先是AWS Marketplace）上市。此外，TrueFoundry旨在推出其AI代理，该代理将帮助建议合适的资源、实现自动缩放以及故障排除。
去年TrueFoundry的客户群增长了四倍，并为客户部署了超过1000个用于机器学习工作负载的集群。Gutgutia表示，公司目前的年度经常性收入（ARR）超过150万美元，并计划在今年实现翻倍增长。
