据报道,开发Claude AI的Anthropic正与一家英国初创公司进行早期洽谈。该公司的SRAM技术能将AI推理速度提升100倍,并将成本降低10倍。

Anthropic-AI-Inference-Chip.jpeg

Anthropic据报道正与Fractile进行早期洽谈

目前,Anthropic从多家公司采购芯片,包括英伟达(NVIDIA)谷歌(Google)亚马逊(Amazon)。这三家公司使Anthropic能够持续运行其人工智能基础设施,而不必担心依赖单一芯片制造商所带来的重大问题。但随着人工智能领域计算需求的加剧,许多AI公司正在寻求投资适合自身需求的内部芯片。

《资讯》(The Information)最新报道,Anthropic正在与一家名为Fractile的英国初创公司进行早期洽谈。由于名为“内存计算融合架构”(Memory Compute Fusion Architecture)的新技术,Fractile正成为人工智能领域的亮点。

该架构的工作原理是将更少的数据移至DRAM,减少对外部存储器的依赖,并在芯片内部完成所有数据处理。为此,该公司设计了自家的SRAM技术,类似于英伟达(NVIDIA)Groq LPU或Groq 3 LPX。

Groq LPU配备了专用SRAM,以提升即将推出的Vera Rubin平台的人工智能推理能力。英伟达(NVIDIA)收购Groq后,得以将最新的LPU集成到即将推出的Vera Rubin生态系统中。这些芯片充当人工智能推理加速器,通过集成大量SRAM和超高带宽来实现横向和纵向扩展。

因此,英伟达(NVIDIA)Groq 3 LPU称为推理加速器,它配备500 MB SRAM、150 TB/s SRAM带宽和2.5 TB/s纵向扩展带宽。这些部件集成在Groq 3 LPX机架中,该机架包含256个LPU和高达128 GB SRAM,用于低延迟处理。

Fractile的解决方案类似,不过该公司声称,其架构旨在实现比英伟达(NVIDIA)Groq 100倍的人工智能推理加速,同时将成本降低10倍。参与该项目的Fractile团队成员来自英伟达(NVIDIA)GraphcoreImagination Technologies等大型公司。

这些数字相当惊人,但该公司尚未设计任何测试芯片,因此这些早期洽谈可以启动Anthropic内部芯片开发的进程。Anthropic目前仍严重依赖外部芯片制造商,因为它与博通(Broadcom)签署了一项多吉瓦级协议,而且有报道称,它很快将以AMD的形式为其计算产品组合添加第四个合作伙伴。


文章标签: #人工智能 #芯片技术 #SRAM #Anthropic #Fractile

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。