Nvidia在CES展会上的演讲中宣布了许多创新产品,但最引人注目的无疑是其Project Digits AI超级计算机。这款产品将于5月上市,其尺寸小巧,足以让Nvidia的CEO黄仁勋轻松手持。Project Digits的设计灵感来源于Nvidia的DGX 100服务器,旨在为用户提供一款无需担心基础设施问题的现成AI超级计算机解决方案。与DGX 100不同,Project Digits的尺寸与Mac Mini相当,适合放置在桌面上。

hdfCW5Q9uGhPrpPgKjToJF-1200-80

Project Digits的核心是GB10 Grace Blackwell超级芯片,这是Nvidia与联发科合作开发的成果。该芯片集成了Nvidia的Blackwell GPU和20核Grace CPU,通过NVLink C2C技术实现高性能计算。此外,该芯片还配备了128GB的LPDDR5X内存和4TB的NVMe SSD,以及Nvidia ConnectX智能网络适配器,支持NCCL、RDMA和GPUDirect功能。

Arm公司对此次合作表示兴奋,称NVIDIA Grace CPU采用了其最先进的Arm Cortex-X和Cortex-A技术,配备了10个Arm Cortex-X925和10个Cortex-A725 CPU核心。Nvidia的SoC产品副总裁Ashish Karandikar表示,与Arm的合作将推动AI下一代的创新。

Project Digits的强大性能使其能够运行高达2000亿次迭代的AI大型语言模型。相比之下,OpenAI的GPT-4o模型仅有120亿次迭代,这意味着Project Digits可以在本地运行和配置类似ChatGPT的模型。如果将两个Project Digits单元组合在一起,其支持能力将提升至4050亿模型。

Project Digits的目标用户是那些需要本地访问更大AI计算解决方案的用户。这款机器在硬件和软件方面都经过了优化,预装了Nvidia的完整AI Enterprise软件栈,包括库、框架和基础设施管理工具,以便用户能够连接和管理更广泛的AI解决方案。

用户可以将Digits作为与云解决方案通信的设备,也可以将其作为Nvidia DGX OS发行版上的Linux工作站使用。用户可以在本地Project Digits系统上进行原型设计、微调和测试模型,然后将它们部署到云或本地数据中心基础设施上。

cTJx3v5R3JNpUFATHVVQhX-1200-80

黄仁勋表示,AI将在每个行业的每个应用中成为主流。Project Digits将使Grace Blackwell超级芯片进入数百万开发者手中,将AI超级计算机带到每个数据科学家、AI研究人员和学生的桌子上,使他们能够参与并塑造AI时代。

对Project Digits感兴趣的用户只需等到5月,届时这款产品将开始发售,起价为3000美元。Project Digits以其小巧的尺寸和强大的性能,继续推动AI训练的民主化,为用户带来前所未有的计算体验。


文章标签: #人工智能 #超级计算机 #Nvidia #AI计算 #高性能计算

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。