AMD刚与 Cerebras 敲定协议数周后,又签约收购了 Taalas,这家初创公司专门设计用于推理相关负载的芯片。

Taalas将AI模型直接烧入硅芯片,AMD刚刚签署最终协议将其收购
这项收购旨在补充其 Helios 系统。可能有些人还不了解,Taalas 通过将特定 AI 模型硬编码到单个晶体管中,消除了所谓的“内存墙”——即 GPU 因等待数据到达而闲置、无法开始计算的常见瓶颈。其专有数字架构能够在一个晶体管中存储 4 位数据并执行数学运算。
基本上,Taalas HC1 芯片具有共享硬件模块,可永久且持续地为量化后的 4 位模型权重预先计算全部 16 种可能乘积。由于所有可能的数学结果都已在芯片上实时完成,单个晶体管实际上不进行任何数学运算,而是充当物理路由器。
更进一步,这里 AI 模型的每个特定权重由一个“掩膜只读存储器”晶体管表示。在制造过程中,一条微观物理线路(金属层掩膜)被蚀刻出来,将该晶体管物理连接到 16 条预计算乘积线之一。当数据流经芯片时,晶体管只需选择正确的预计算数学通道并将其传递给加法器。因此,Taalas 的 HC1 芯片通过这种架构,能够为每个用户每秒生成惊人的 16,000 到 17,000 个词元。
简单来说,特定 AI 模型的数学值不存储在独立的内存组中,而是物理布线到晶体管的路径中。芯片无需“加载”任何东西或从内存获取数据,因为电路本身就是内存与大脑的结合体。但该芯片仅适用于为其设计的特定模型。
这种方法与 Groq LPU 有些类似——后者使用小型的隔离 SRAM 池,并将 AI 模型权重直接烧入 SRAM 中,完全绕过内存缓存的概念。
AMD 收购 Taalas 的决定,与其将 Helios 系统整合 Cerebras 晶圆级引擎相得益彰。该引擎将整个 AI 超级计算机的内存和计算能力置于一块巨大的、互联的硅晶圆上,数十万个计算核心和数十 GB 的 SRAM 无缝连接,使数据能够高效流动,完全不会遇到外部网络瓶颈。



