本周三，人工智能安全公司Irregular宣布获得8000万美元新一轮融资，此轮融资由红杉资本（Sequoia Capital）和Redpoint Ventures领投，Wiz首席执行官阿萨夫·拉帕波特（Assaf Rappaport）跟投。知情人士透露，本轮融资使Irregular估值达到4.5亿美元。
联合创始人丹·拉哈夫（Dan Lahav）向TechCrunch表示：“我们的观点是，很快会有大量经济活动来自人类与AI的交互以及AI与AI之间的交互，这将在多个层面突破现有安全体系的防护能力。”
该公司前身为Pattern Labs，已是AI安全评估领域的重要参与者。其研究成果被引用在Claude 3.7 Sonnet以及OpenAI的o3和o4-mini模型的安全评估中。该公司开发的模型漏洞检测能力评分框架（称为SOLVE）已在行业内得到广泛应用。
尽管Irregular在模型现有风险检测方面成果显著，但此次融资旨在实现更宏大的目标：在未知风险和行为实际出现之前就及时发现它们。该公司构建了复杂的模拟环境系统，能够在模型发布前进行深度测试。
联合创始人奥默·内沃（Omer Nevo）解释道：“我们建立了复杂的网络模拟环境，让AI同时扮演攻击者和防御者的角色。因此当新模型发布时，我们可以立即发现防御体系的有效点和薄弱环节。”
随着前沿模型潜藏的风险不断显现，安全问题已成为AI行业关注的焦点。OpenAI今年夏季全面升级了内部安全措施，重点关注潜在的企业间谍活动。与此同时，AI模型在发现软件漏洞方面越来越娴熟，这种能力对攻击者和防御者都具有重大影响。
对Irregular的创始人而言，这仅仅是大语言模型能力不断提升所带来的众多安全挑战中的第一个。“如果说前沿实验室的目标是创造越来越精密强大的模型，那我们的使命就是守护这些模型的安全，”拉哈夫表示，“但这是一个移动靶标，因此未来显然还有大量艰巨的工作需要我们完成。”
