吉姆·凯勒Cerebras近期进行的首次公开募股(IPO)并不在意,并表示他对此表示欢迎,但同时强调Tenstorrent将在各方面都胜过他们。

jim-keller-says-cerebras-ipo-beneficial-tenstorrent-aims-to-surpass-rivals.jpeg

Tenstorrent首席执行官吉姆·凯勒暗示可能与英特尔高通达成交易,同时承诺在“所有方面”击败CerebrasTenstorrent近期推出了其最新的BlackHole Galaxy服务器,该系统有望颠覆整个AI市场,其性能足以碾压竞争对手。我们在上个月报道了这一发布,当时该公司演示了其Blackhole服务器,在总拥有成本(TCO)上的表现比英伟达GB300(NVIDIA GB300)高出多达五倍。

凯勒接受挑战,要在AI总拥有成本上击败英伟达Cerebras等竞争对手。在接受EETimes采访时,吉姆·凯勒Cerebras最近的IPO以及其在Kimi K2.6(1T)模型上的最新性能数据发表了言论。CerebrasWSE-CS3(晶圆级引擎)硬件据称在该模型上可实现每秒近1000个词元(tokens)的处理速度,但吉姆表示,他们不仅可以通过大规模部署BlackHole服务器轻松超越这一性能,而且只需要极低的总系统成本。

他接着表示,他对Cerebras最近的IPO并不担心,并认为这“很有帮助”,因为他们将在所有方面击败他们。

吉姆·凯勒说:“Cerebras的IPO(和随后的估值)很有帮助,尤其是因为我们将在所有方面击败他们。接受挑战!”

在谈到Tenstorrent如何处理KV缓存时——竞争对手如英伟达已为此构建了专用解决方案,例如其Groq-LPX芯片——凯勒指出,KV缓存存储在和解码单元同一芯片的DRAM中,就是这么简单。

Tenstorrent对其方法充满信心,并且他们“在这方面确实很擅长”。KV缓存可以使用TenstorrentTensor芯片进行扩展,这些芯片可以将其本地存储在SRAM中,但如果这还不够,数据可以流式传输到DRAM,这虽然会带来一些性能损失,但仍然优于英伟达Cerebras缺乏DRAM的解决方案。

吉姆·凯勒说:“我经常被问到如何处理KV缓存。它就在解码器同一芯片的DRAM里,我们甚至不考虑这个问题。我们这方面确实很擅长。”

吉姆还透露了近期关于Tenstorrent将被高通英特尔收购的传言。虽然他对此没有表态,但确认已经与这两家公司的CEO会面,并希望能与其中一家达成一项重大交易,主要是关于其RISC-V CPU IP吉姆·凯勒告诉EETimes,一家大型云服务商也已联系他们,希望为其AI IP用于一个小型芯片。

吉姆·凯勒说:“我希望从他们其中之一那里获得一笔大单,因为我们的RISC-V CPU IP非常出色。一家大型云服务商也在考虑我们的AI IP,用于一个小型芯片。”

  • 目前,Tenstorrent正计划进行IPO,吉姆对此评论称,他们的投资者对此“非常热衷”,并正在努力建立更广泛的全球市场影响力和供应链。该公司已经看到其服务器和AI专用硬件(如Galaxy)订单激增,例如,一家海外客户下单订购了一个包含96个Galaxy节点、总计3072Blackhole芯片的机群。

  • 订单增长的原因在于竞争对手无法满足所有客户的需求。由于Tenstorrent极具颠覆性的定价策略,一个价值1亿美元英伟达订单,若选择Tenstorrent,成本大约只需2000万美元,而且该公司即使面临更高的自身需求,也能按时交付。该公司目前正在开发1000Galaxy服务器,其中一半已售出。


文章标签: #AI芯片 #IPO #RISCV #Tenstorrent #高性能计算

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。