立陶宛独角兽企业Nord Security的创始人推出了一家新的AI编排初创公司Nexos.ai，旨在助力企业将AI项目投入生产，其初步重点是为大型语言模型（LLM）提供更高的可见性、安全性和适应性。
Nexos.ai由Tomas Okmanas和Eimantas Sabaliauskas创立，他们打造的品牌在立陶宛乃至整个欧洲都非常知名。Nord Security以旗下旗舰VPN产品NordVPN著称，在成立的前10年里一直自力更生，2022年获得了一笔1亿美元的投资，估值达到16亿美元，后来在后续融资中估值又升至30亿美元。
如今，Nexos.ai带着800万美元的融资走出隐身模式，投资方阵容豪华，其中领投方Index Ventures首次对立陶宛企业进行投资。Index Ventures的合伙人Hannah Seal表示：“我们多年来一直关注Tomas及其工作成果，听说他要在AI领域创建新公司，并且愿意在这个早期阶段接受风险投资，我们就迫不及待地想要参与进来。”
其他知名投资方还包括Creandum和Dig Ventures，Datadog、Klarna、Supercell和Wix的首席执行官等知名天使投资人也参与了投资。
目前，想要将AI投入生产的团队往往需要连接众多工具，这通常意味着要招募并组建具备相应技能的团队。Nexos.ai正是看准了这一市场需求，想要介入其中。
Tomas Okmanas在接受采访时说：“我发现在将AI作为试点运行和正式投入生产之间存在很大差距。在实验室测试AI时，它可能有效且有用，但当企业想要将其投入生产时，如何确保高可用性、安全性和成本管理就成了问题。”
五年前，Nord Security被纳入了伞形公司Tesonet，后者是一个拥有20多家企业的孵化器。其中一家是网络托管公司Hostinger，最近在其网站构建工具中增加了AI功能。作为Hostinger的董事会成员和股东，Okmanas表示，他们在使用AI过程中遇到的一些问题，成为了催生Nexos.ai的催化剂。
“我们想在网站构建器中使用AI，于是启动了OpenAI，开始测试并将其投入生产。结果8月份就被收费15万美元，这让我们很困惑，为什么这么贵，却没有成本可见性。”Okmanas说。当OpenAI几次出现故障时，Okmanas更加坚定了要开发出能更容易部署、管理和优化日益复杂的AI模型生态系统的产品。
Nexos.ai通过一个简单的API（应用程序编程接口），让客户可以访问200多个AI模型，涵盖从OpenAI和Anthropic等知名大厂到更小众的LLM。其理念是，如果OpenAI出现故障，公司可以暂时且自动切换到其他提供商，无缝衔接；如果某个LLM的使用成本因故飙升，公司也能及时转换到其他LLM以降低成本。
Nexos.ai还引入了“智能缓存”功能，当多个用户重复提出相同问题时，系统会优先从自己的数据库中调取答案，而不是继续与LLM互动，从而节省成本。
在安全和合规方面，Nexos.ai能够防止个人将私密数据发送给LLM提供商，若员工离职，也能立即终止其访问权限。
不过，数据安全问题是企业迟迟未能大规模接受AI的重要原因之一，像医疗保健公司、银行或保险公司等，不可能轻易将敏感信息交给LLM提供商。值得一提的是，Hostinger曾在2019年遭受数据泄露，NordVPN过去也曾被黑客攻击，这些安全事件是如今所有公司都可能面临的风险。
这也引发了人们对Nexos.ai数据处理方式的疑问，毕竟其将所有内容托管在自己的基础设施上。Okmanas表示，公司未来可能会提供自托管服务，并且已经支持与企业自身内部LLM的集成。此外，Nexos.ai设有防护机制，能够检测到何时有个人身份信息等敏感数据被发送，此时会将数据重新路由回原公司的自身LLM或数据库。但如果查询内容比较通用，比如客户询问AI代理关于位置和营业时间等信息，那么查询就会在Nexos.ai端处理。
从想法到正式落地，Nexos.ai仅用了大约六周时间，融资速度快一方面得益于创始人的背景，另一方面也是因为时机正好。如今，AI已经走出了炒作阶段，真正的实际应用正在到来，所有大型企业都意识到AI的重要意义，需要大规模采用，现在正是基础设施跟上模型发展的关键时期。
Nexos.ai能够快速执行，很大程度上得益于Tesonet更广泛的组织架构，旗下约有4000名员工。这使得Okmanas能够迅速组建一个约30人的团队，这些成员他都认识且信任，可以全职为Nexos.ai工作。Okmanas说：“我们有这些长期合作的团队，无需多言，他们就知道该做什么。我们也会从外部招聘，但那需要更多时间。”
Nexos.ai的平台计划在3月底之前正式上线，尽管目前Okmanas表示他们已经与一些测试客户和设计合作伙伴展开了合作。
