英伟达(NVIDIA)已允许DGX Station用户通过其英伟达Agent Toolkit在本地运行个人AI智能体,该工具仅需三步即可完成设置。智能体AI(Agentic AI)为PC带来了全新的应用场景,尤其是像英伟达DGX Station这样的强大设备,它搭载了GB300Blackwell Ultra”GPU。为了充分利用其性能,英伟达推出了其Agent Toolkit软件,该软件仅需30分钟(即设置软件所需的时间)即可释放这些能力。

NVIDIA-Agent-Toolkit-on-DGX-Station.jpeg

英伟达Agent Toolkit是一个完整的软件栈,将英伟达NemoClawNeomotron 3 UltraOmniverse整合在一起。借助英伟达Omniverse库,智能体可以在安全的本地运行时环境中访问工具和技能,无需连接互联网。开发者还可以连接多个系统,以服务并发用户、更多智能体和更大的模型规模。

英伟达NemoClaw提供了构建自定义自主智能体的开放蓝图,将模型、工具框架和运行时打包在一起,作为构建专业化、特定领域智能体的团队的起点。英伟达Nemotron 3 Ultra是一款前沿的开源模型,拥有5500亿参数,针对DGX Station GB300系统进行了优化,可作为团队为其自身领域定制的模型层。英伟达Omniverse库将智能体技能扩展到物理模拟和3D资产工作流程,为创意和工程专业人士提供了远超通用智能体能力的工具。英伟达OpenShell是开源安全运行时环境,将智能体隔离在沙盒中,并根据定义的策略对其进行管控,规范智能体与工具、系统和数据的交互方式。

英伟达GB300 Grace Blackwell Ultra桌面超级芯片在DGX Station上提供数据中心级别的性能,具备高达20千万亿次浮点运算的FP4AI计算能力和748GB一致性内存,可运行Nemotron Ultra等大型模型。英伟达ConnectX-8 SuperNICDGX Station中提供高达800GB/s的带宽,实现极快、高效的网络连接,并支持连接最多两台DGX Station,进一步扩展模型容量和性能。

借助Neomotron 3 Ultra“开放”模型,大规模运行智能体的团队可以充分利用硬件的前沿性能,而无需担心词元成本,因为硬件购买是唯一需要支付的费用。除此之外,英伟达还宣布了一个将Omniverse集成到库中的蓝图,使开发者能够通过NemoClaw的“RTX Sensor Simulation”为物理AI工作流程准备3D场景。最重要的是,运行OpenClaw的团队现在可以在DGX Station上利用Neomotron 3 UltraOmniverse工具进行本地推理。

英伟达还提供了两本新的操作指南,帮助开发者使用NemoClaw和双节点部署构建并运行智能体:

  • 《连接两台DGX Station实现分布式工作负载》指南指导用户如何通过连接最多两台DGX Station系统,以可扩展的性能运行强大模型。

  • 《在双DGX Station上使用本地LLM运行NemoClaw》提供了如何在DGX Station上设置NemoClaw的详细步骤,使智能体能够开箱即用地获得基于Nemotron Ultra的前沿智能。

英伟达还正在与AdobeBlenderUnrealEpic GamesSideFXFoundryCanva等合作伙伴合作,集成模型上下文协议(MCP)连接,使AI智能体能够在渲染场景、镜头、时间线和资源的工具内工作。

综上所述,英伟达正在通过强大的工具和库扩展其本地AI能力,这些工具和库现已在其最强大的工作站PC平台DGX Station上可用。DGX Station可通过华硕(ASUS)戴尔(Dell)Exxact技嘉(Gigabyte)惠普(HP)微星(MSI)超微(Supermicro)订购。


文章标签: #AI智能体 #本地部署 #NVIDIA #DGXStation #高性能计算

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。