TrueFoundry 是一家由前 Meta 工程师创立的初创公司，最近获得了英特尔资本（Intel Capital）领投的1900万美元新投资。这家公司专注于帮助企业大规模部署人工智能系统，解决企业在 AI 应用过程中面临的诸多难题。
自从2022年11月 ChatGPT 推出后，生成式人工智能（GenAI）迅速走红，众多企业都希望借助 AI 提升效率和竞争力。然而，生成式人工智能依赖于大型语言模型，这些模型需要强大的计算能力来运行。很多企业没有足够的 GPU 资源，这就使得 GPU 优化变得极为重要。此外，企业还需要不断尝试不同的模型，找到最适合自己的解决方案，并对现有模型进行微调，以确保 AI 系统能够真正融入到自己的业务流程中。
TrueFoundry 提供的解决方案是一个基于平台即服务（PaaS）模式的软件，主要面向全栈数据科学家。该软件具备自动扩展、主动维护、集中访问控制和实时监控等功能，能够极大地简化企业端到端的人工智能部署流程。
TrueFoundry 成立于2021年6月，由前 Meta 工程师 Nikunj Bajaj 和 Abhishek Choudhary，以及他们的 IIT 喀拉格普尔校友 Anuraag Gutgutia 共同创立。最初，公司推出的是跨云原生软件，用于加速机器学习的部署。随着生成式人工智能在2023年逐渐成为主流，TrueFoundry 对其系统进行了升级，增加了对生成式人工智能的支持。
以前，数据科学家主要负责模型的开发和实验，而将部署工作交给机器学习工程师。但 TrueFoundry 的系统改变了这一模式。Gutgutia 在接受采访时提到：“通过我们的系统，数据科学家可以独立构建整个复杂系统，并在移交给平台团队进行最终部署之前，进行大规模测试。” 这大大提高了部署的效率和灵活性。
TrueFoundry 的核心产品之一是自动驾驶系统（Autopilot System），这是一种利用人工智能技术分析日志和指标的软件解决方案。它可以自动调整 GPU 使用量和优化内存需求，从而帮助企业更高效地扩展人工智能应用。Gutgutia 举例说，TrueFoundry 的一个客户团队只有两名成员，但借助自动驾驶系统，他们成功管理了每秒1000万次请求的庞大工作量。
目前，TrueFoundry 已经在全球范围内拥有30家付费客户，并且还有许多用户在使用其开源的 RAG 框架进行实验。其中不乏一些知名企业，比如 GPU 巨头英伟达（Nvidia）利用 TrueFoundry 的软件优化其 GPU 集群；医疗技术公司 ResMed 则基于该平台开发内部人工智能平台。此外，西门子医疗（Siemens Healthineers）、Automation Anywhere、Games24x7 和 Whatfix 等公司也在使用 TrueFoundry 的解决方案。
TrueFoundry 的软件架构基于 Kubernetes，这使得它能够兼容所有主流云平台，包括亚马逊网络服务（AWS）、谷歌云平台（Google Cloud Platform）和微软 Azure 等。企业还可以选择在本地原生部署该平台，以满足不同的需求。
TrueFoundry 的优势在于能够显著提升企业的 AI 部署效率。Bajaj 表示，使用 TrueFoundry 的企业可以在短短两个月内构建并推出自己的内部人工智能平台，并在四个月内实现投资回报，而行业平均水平通常需要14个月。Gutgutia 进一步指出，TrueFoundry 的解决方案能够为客户节省约40%至50%的基础设施成本，同时将部署速度提升10倍，无论企业是在开发代理、RAG、复杂的深度学习模型还是微调模型。
尽管云服务提供商如亚马逊和谷歌已经开始推出自己的 AI 部署工具，例如亚马逊的 SageMaker 和谷歌云的 Vertex，但 Gutgutia 认为 TrueFoundry 的解决方案依然具有独特价值。它可以帮助云服务提供商加速计算资源的使用，缩短 AI 应用的上市时间，并降低总体成本。
TrueFoundry 的 A 轮融资全部为股权融资，由 Eniac Ventures、Peak XV Partners 和 Jump Capital 等机构参与，同时还吸引了包括 Gokul Rajaram、Mohit Aron 和 Cyan Banister 在内的多位天使投资人。
获得这笔资金后，TrueFoundry 计划将其团队从印度的45名成员扩展到美国的市场推广岗位，包括销售、客户成功和产品营销等角色。公司还将加大与云服务提供商的合作，计划进入主要云市场，首先从 AWS Marketplace 开始。
此外，TrueFoundry 计划推出一款人工智能代理，它能够为客户提供合适的资源建议，并实现自动扩展和故障排除功能，进一步提升用户体验。
到目前为止，TrueFoundry 的总融资额已超过2100万美元，其中包括2022年9月由 Peak XV（当时为红杉资本印度）Surge 领投的230万美元种子轮融资。
过去一年，TrueFoundry 的客户数量增长了四倍，并为客户部署了超过1000个机器学习工作负载集群。Gutgutia 表示，公司目前的年化经常性收入（ARR）已超过150万美元，并计划在新的一年里实现收入翻倍。
