中国一直在寻求突破英伟达(NVIDIA)的CUDA技术壁垒,其中一项被提出的解决方案无疑值得重点关注。中国半导体行业官员建议国内人工智能产业转向软件定义芯片。

当被问及英伟达在人工智能领域占据主导地位的最大原因之一时,黄仁勋(Jensen)总是将CUDA称为“最坚固的护城河”,并表示在提升软件生态系统方面所做的持续努力是英伟达区别于其他公司的关键。看来,中国正担忧其产业对CUDA的依赖,这也是中国半导体行业协会常务副理事长魏少军表示北京应开发CUDA及其他西方组件的替代方案的原因。
“即使我们自己的技术起初不够好,也必须坚持使用。试错可能不会成功,但不尝试则必定会落后。”——魏少军
特别谈到CUDA时,魏少军表示,中国或许应该停止专注于直接创建该软件的替代品,转而采用一种讨论较少的策略。他提出了“软件定义芯片”(SDC)的理念,其重点是将计算智能移向软件,而非预先布局的硬件配置。目前,由于生态系统的成熟度,开发者倾向于使用CUDA,这间接地将他们绑定在英伟达的硬件上。然而,SDC将改变游戏规则,我们接下来将探讨其实现方式。
采用SDC,开发者将不需要“CUDA”层来执行计算;相反,芯片通过可重构网格进行配置,该网格使用编译器生成的配置比特流。简而言之,这意味着无论是编译器还是代码的源级表示,都不依赖于指令集架构(ISA),因而灵活得多。与通过专用调度器运行的GPU相比,SDC依赖于确定性编译,意味着每一个数据移动,直至时钟周期,都能被追踪。
魏少军教授认为,创建旨在复制CUDA成功的翻译层和独立生态系统的成本太高,他建议SDC路线对中国而言是一个可行的选择。如果你已经意识到,SDC对编译器的依赖正是使这项努力成为“噩梦”的原因,它涉及路由和分支问题以及违背硬件工程规范的结构性变化。SDC的流行例子包括SambaNova的RDU和Groq的LPU单元,但它们的设计是为了补充特定的工作负载,而非完全取代GPU。



