据报道,开发Claude AI的Anthropic正与一家英国初创公司进行早期洽谈。该公司的SRAM技术能将AI推理速度提升100倍,并将成本降低10倍。

Anthropic据报道正与Fractile进行早期洽谈
目前,Anthropic从多家公司采购芯片,包括英伟达(NVIDIA)、谷歌(Google)和亚马逊(Amazon)。这三家公司使Anthropic能够持续运行其人工智能基础设施,而不必担心依赖单一芯片制造商所带来的重大问题。但随着人工智能领域计算需求的加剧,许多AI公司正在寻求投资适合自身需求的内部芯片。
据《资讯》(The Information)最新报道,Anthropic正在与一家名为Fractile的英国初创公司进行早期洽谈。由于名为“内存计算融合架构”(Memory Compute Fusion Architecture)的新技术,Fractile正成为人工智能领域的亮点。
该架构的工作原理是将更少的数据移至DRAM,减少对外部存储器的依赖,并在芯片内部完成所有数据处理。为此,该公司设计了自家的SRAM技术,类似于英伟达(NVIDIA)的Groq LPU或Groq 3 LPX。
Groq LPU配备了专用SRAM,以提升即将推出的Vera Rubin平台的人工智能推理能力。英伟达(NVIDIA)收购Groq后,得以将最新的LPU集成到即将推出的Vera Rubin生态系统中。这些芯片充当人工智能推理加速器,通过集成大量SRAM和超高带宽来实现横向和纵向扩展。
因此,英伟达(NVIDIA)将Groq 3 LPU称为推理加速器,它配备500 MB SRAM、150 TB/s SRAM带宽和2.5 TB/s纵向扩展带宽。这些部件集成在Groq 3 LPX机架中,该机架包含256个LPU和高达128 GB SRAM,用于低延迟处理。
Fractile的解决方案类似,不过该公司声称,其架构旨在实现比英伟达(NVIDIA)的Groq 100倍的人工智能推理加速,同时将成本降低10倍。参与该项目的Fractile团队成员来自英伟达(NVIDIA)、Graphcore和Imagination Technologies等大型公司。
这些数字相当惊人,但该公司尚未设计任何测试芯片,因此这些早期洽谈可以启动Anthropic内部芯片开发的进程。Anthropic目前仍严重依赖外部芯片制造商,因为它与博通(Broadcom)签署了一项多吉瓦级协议,而且有报道称,它很快将以AMD的形式为其计算产品组合添加第四个合作伙伴。



