T
traeai
登录
返回首页
NVIDIA Developer视频

Run Open Models Locally: Nemotron 3 Ultra on DGX Station | Nemotron Labs

5.0内容质量
可直接观看的视频资源打开原视频

TL;DR · AI 摘要

视频展示如何在NVIDIA DGX Station上本地运行Nemotron 3 Ultra模型,但缺乏技术细节和深度分析。

核心要点

  • NVIDIA DGX Station可支持大型AI模型本地部署
  • Nemotron 3 Ultra模型需要高性能计算资源
  • 视频内容以演示为主,缺少技术原理说明

结构提纲

按章节快速跳转。

  1. 展示Nemotron 3 Ultra模型在DGX Station上的运行过程

  2. 说明运行大型模型所需的计算资源和配置

  3. 演示模型部署和运行的具体操作流程

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Nemotron 3 Ultra本地部署
    • 硬件要求
      • DGX Station配置
      • GPU需求
    • 部署流程
      • 模型加载
      • 资源分配
    • 局限性
      • 缺乏技术细节
      • 无性能对比

金句 / Highlights

值得收藏与分享的关键句。

#NVIDIA#AI模型#DGX Station#本地部署

视频笔记

本地运行开源模型:Nemotron 3 Ultra 在 DGX Station 上 | Nemotron Labs - YouTube

返回 ![图片1](https://www.youtube.com/ "YouTube首页")

跳过导航

搜索

语音搜索

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

登录

![图片2](https://www.youtube.com/ "YouTube首页")

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

视频2

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

本地运行开源模型:Nemotron 3 Ultra 在 DGX Station 上 | Nemotron Labs

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

点击取消静音

2x

图片3
图片3

本地运行开源模型:Nemotron 3 Ultra 在 DGX Station 上 | Nemotron Labs

NVIDIA 开发者 1 等待中

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

复制链接

信息

购物

图片4
图片4
图片5
图片5

如果播放未在短时间内开始,请尝试重新启动您的设备。

下一项

即将直播

取消立即播放

您已退出登录

您观看的视频可能会被添加到电视的观看历史记录中,并影响电视推荐。为避免此情况,请取消并登录YouTube电脑版。

取消 确认

6天后直播

8月11日 下午6:00

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

分享

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg "分享链接")- [x] 包含播放列表

获取共享信息时出错。请稍后再试。

图片6
图片6

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)[](https://www.youtube.com/watch?v=fr1IQspixmM)

/

直播

•观看直播

/

46:40 在Jetson上构建NemoClaw代理 | NVIDIA Jetson AI Lab NVIDIA Developer 1.5K views • 12小时前直播 Live Playlist ()Mix (50+)1:25:07 与埃隆·马斯克的完整访谈 | The Economist The Economist 3.5M views • 6天前直播 Live Playlist ()Mix (50+)15:04 我以为DGX Spark更慢…直到我改了一个地方 Alex Ziskind 311K views • 6个月前直播 Live Playlist ()Mix (50+)47:56 在NVIDIA Jetson上本地运行GenAI | NVIDIA Jetson AI Lab NVIDIA Developer 5.2K views • 7天前直播 Live Playlist ()Mix (50+)19:11 免费腾讯开源的人类记忆能力用于AI代理 | 在电脑上本地运行 Signal Coders 2.8K views • 1天前直播 Live Playlist ()Mix (50+)2:00:50 ChatGPT提供200万美元让我保持沉默:没人准备好面对即将到来的事!The Diary Of A CEO 7.6M views • 3周前直播 Live Playlist ()Mix (50+)16:02 Qwen 3.8 Max vs DeepSeek V4 Flash vs Kimi K3 — 3个严酷测试 Fahd Mirza 4.3K views • 22小时前直播 Live Playlist ()Mix (50+)40:59 与我一起编码:在GPU上运行你的Polars代码 NVIDIA Developer 1.2K views • 4天前直播 Live Playlist ()Mix (50+)2:11:08 AMD 2026人工智能进展:Lisa Su完整主题演讲 Yahoo Finance 38K views • 12天前直播 Live Playlist ()Mix (50+)49:00 黄仁勋:构建NVIDIA的心态 Y Combinator 155K views • 9天前直播 Live Playlist ()Mix (50+)22:40 游戏市场开始崩溃 Mrwhosetheboss 5.1M views • 4天前直播 Live Playlist ()Mix (50+)1:10:22 黄仁勋表示AI悲观者判断错误 Axios 96K views • 12天前直播 Live Playlist ()Mix (50+)

本地运行开源模型:在DGX Station上运行Nemotron 3 Ultra | Nemotron Labs

图片7:NVIDIA Developer
图片7:NVIDIA Developer

NVIDIA Developer

NVIDIA Developer

221K订阅者

订阅

已订阅

7

分享

保存

下载

下载

1个等待 2026年8月11日安排

1个等待 • 2026年8月11日安排

本地运行前沿级开源模型意味着无需依赖云服务,硬件之后无需按token计费,所有数据……更多

……更多

![图片8 ### NVIDIA Developer 221K订阅者](https://www.youtube.com/@NVIDIADeveloper)

视频关于

显示更少

实时聊天

加入对话与创作者和其他观看直播的人互动。

打开面板

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

本地运行开源模型:在DGX Station上运行Nemotron 3 Ultra | Nemotron Labs

1个等待

安排在2026年8月11日

7

分享

保存

下载

下载

NaN / NaN

描述

本地运行开源模型:在DGX Station上运行Nemotron 3 Ultra | Nemotron Labs

Image 9: NVIDIA Developer
Image 9: NVIDIA Developer

NVIDIA Developer

NVIDIA Developer

在本地运行类似前沿的开放模型意味着无需依赖云服务,硬件成本之后无需按每个token计费,所有数据均可保留在设备上。在SIGGRAPH上,NVIDIA宣布在DGX Station上推出NVIDIA Agent Toolkit软件栈——NemoClaw、Nemotron 3 Ultra、Omniverse库以及OpenShell安全运行时,集成于一台桌面级超级计算机中。本节内容将解析该软件栈对开发者的意义,并逐步演示一个实际案例:在DGX Station上部署Nemotron 3 Ultra。我们将进行实操演示——使用vLLM在GB300 DGX Station上启动Nemotron 3 Ultra(550B,NVFP4),包含MoE专家CPU卸载、推测解码以及工具调用路由至OpenAI兼容API。同时涵盖SIGGRAPH的最新宣布内容以及完整Agent Toolkit软件栈的功能。您将学到:DGX Station上的NVIDIA Agent Toolkit软件栈包含哪些内容,以及其对本地AI的重要性;如何使用vLLM和NVFP4量化技术在DGX Station上部署Nemotron 3 Ultra;如何为智能体工作负载配置推测解码、前缀缓存和工具调用路由;如何验证和查询本地运行的Nemotron 3 Ultra端点。在DGX Station或DGX Spark上本地运行Nemotron等开放模型?请带来您的部署问题——我们将现场解答。……更多

...更多 隐藏 ![Image 10 ### NVIDIA Developer 221K subscribers](https://www.youtube.com/@NVIDIADeveloper)

视频关于

显示聊天窗口

![Image 11 46:40](https://www.youtube.com/watch?v=dgy7VxTe0ao&pp=ugUHEgVlbi1VUw%3D%3D)

Image 12
Image 12

[在Jetson上构建NemoClaw智能体 | NVIDIA Jetson AI Lab](https://www.youtube.com/watch?v=dgy7VxTe0ao&pp=ugUHEgVlbi1VUw%3D%3D)

NVIDIA Developer

1.5K次观看 • 12小时前直播

新内容

![Image 13 1:25:07](https://www.youtube.com/watch?v=XuoqKYxDHVc&pp=ugUEEgJlbg%3D%3D)

Image 14
Image 14

[与埃隆·马斯克的完整访谈 | 《经济学人》](https://www.youtube.com/watch?v=XuoqKYxDHVc&pp=ugUEEgJlbg%3D%3D)

The Economist

350万次观看 • 6天前

新内容

![Image 15 15:04](https://www.youtube.com/watch?v=Ze5XLooTt6g)

Image 16
Image 16

[我以为DGX Spark更慢…直到我改变了这一个设置](https://www.youtube.com/watch?v=Ze5XLooTt6g)

Alex Ziskind

311K次观看 • 6个月前

![Image 17 47:56](https://www.youtube.com/watch?v=czteUSONG-c&pp=ugUHEgVlbi1VUw%3D%3D)

Image 18
Image 18

[在NVIDIA Jetson上本地运行GenAI | NVIDIA Jetson AI Lab](https://www.youtube.com/watch?v=czteUSONG-c&pp=ugUHEgVlbi1VUw%3D%3D)

NVIDIA Developer

5.2K 次观看 • 7 天前直播

![Image 19 19:11](https://www.youtube.com/watch?v=Mg5Em30W_Ic)

Image 20
Image 20

[腾讯开源的人类记忆模拟技术 | 在本地计算机上运行](https://www.youtube.com/watch?v=Mg5Em30W_Ic)

Signal Coders

2.8K 次观看 • 1 天前

New

![Image 21 2:00:50](https://www.youtube.com/watch?v=_g4l7YkDQwA&pp=ugUEEgJlbg%3D%3D)

Image 22
Image 22

[ChatGPT 提议以200万美元让我保持沉默:没人准备好面对即将到来的风暴!](https://www.youtube.com/watch?v=_g4l7YkDQwA&pp=ugUEEgJlbg%3D%3D)

The Diary Of A CEO

7.6M 次观看 • 3 周前

![Image 23 16:02](https://www.youtube.com/watch?v=744gbkkaeTM&pp=ugUHEgVlbi1VUw%3D%3D)

Image 24
Image 24

[Qwen 3.8 Max vs DeepSeek V4 Flash vs Kimi K3 — 3 项严苛测试](https://www.youtube.com/watch?v=744gbkkaeTM&pp=ugUHEgVlbi1VUw%3D%3D)

Fahd Mirza

4.3K 次观看 • 22 小时前

New

![Image 25 40:59](https://www.youtube.com/watch?v=HarqnFdh2r8&pp=ugUHEgVlbi1VUw%3D%3D)

Image 26
Image 26

[与我一起编码:在GPU上运行你的Polars代码](https://www.youtube.com/watch?v=HarqnFdh2r8&pp=ugUHEgVlbi1VUw%3D%3D)

NVIDIA Developer

1.2K 次观看 • 4 天前直播

New

![Image 27 2:11:08](https://www.youtube.com/watch?v=jvtPC28nGsc)

Image 28
Image 28

[AMD 2026人工智能进展:Lisa Su完整主题演讲](https://www.youtube.com/watch?v=jvtPC28nGsc)

Yahoo Finance

38K 次观看 • 12 天前直播

![Image 29 49:00](https://www.youtube.com/watch?v=I4B37S1dyQQ&pp=ugUHEgVlbi1VUw%3D%3D)

Image 30
Image 30

[Jensen Huang:构建NVIDIA的思维方式](https://www.youtube.com/watch?v=I4B37S1dyQQ&pp=ugUHEgVlbi1VUw%3D%3D)

Y Combinator

155K 次观看 • 9 天前

![Image 31 22:40](https://www.youtube.com/watch?v=Eo5w2S-h5dI)

Image 32
Image 32

[游戏市场开始崩溃](https://www.youtube.com/watch?v=Eo5w2S-h5dI)

Mrwhosetheboss

5.1M 次观看 • 4 天前

New

![Image 33 1:10:22](https://www.youtube.com/watch?v=fr1IQspixmM&pp=ugUEEgJlbg%3D%3D)

Image 34
Image 34

[Jensen Huang表示AI悲观者观点有误](https://www.youtube.com/watch?v=fr1IQspixmM&pp=ugUEEgJlbg%3D%3D)

Axios

96K 次观看 • 12 天前

![Image 35 45:27](https://www.youtube.com/watch?v=zNM_k2HQTaM&pp=ugUHEgVlbi1VUw%3D%3D)

Image 36
Image 36

[如何在Prime Intellect上使用强化学习训练开放模型 | Nemotron Labs](https://www.youtube.com/watch?v=zNM_k2HQTaM&pp=ugUHEgVlbi1VUw%3D%3D)

NVIDIA Developer

2.2K 观看次数 • 7天前直播

New

![Image 37 24:18](https://www.youtube.com/watch?v=QJqKqxQR36Y)

Image 38
Image 38

[NVIDIA不希望我这么做](https://www.youtube.com/watch?v=QJqKqxQR36Y)

Alex Ziskind

557K 观看次数 • 5个月前

![Image 39 36:09](https://www.youtube.com/watch?v=8aO_2ncAj9M)

Image 40
Image 40

[曾为扎克伯格、马斯克和谷歌工作的人发出警告](https://www.youtube.com/watch?v=8aO_2ncAj9M)

Channel 4 News

187K 观看次数 • 4天前

New

![Image 41 35:22](https://www.youtube.com/watch?v=eljKzK6WGqM&pp=ugUHEgVlbi1VUw%3D%3D)

Image 42
Image 42

[使用NVIDIA DeepStream 9.1技能构建多摄像头3D跟踪应用](https://www.youtube.com/watch?v=eljKzK6WGqM&pp=ugUHEgVlbi1VUw%3D%3D)

NVIDIA Developer

6.2K 观看次数 • 6天前直播

New

![Image 43 40:19](https://www.youtube.com/watch?v=ckoi0RTEgcY)

Image 44
Image 44

[从电力到ChatGPT:全面解析AI数据中心](https://www.youtube.com/watch?v=ckoi0RTEgcY)

Leo Cui, Ph.D., CFA

234K 观看次数 • 12天前

![Image 45 10:23](https://www.youtube.com/watch?v=lND31qnRePc&pp=ugUHEgVlbi1VUw%3D%3D)

Image 46
Image 46

[DeepSeek 0731现已上线DwarfStar](https://www.youtube.com/watch?v=lND31qnRePc&pp=ugUHEgVlbi1VUw%3D%3D)

Samuel Gregory

6.2K 观看次数 • 1天前

New

![Image 47 11:35](https://www.youtube.com/watch?v=T7WF9okSfrw&pp=ugUHEgVlbi1HQg%3D%3D)

Image 48
Image 48

[每种GPU(4GB至128GB)的最佳本地AI模型](https://www.youtube.com/watch?v=T7WF9okSfrw&pp=ugUHEgVlbi1HQg%3D%3D)

Code Bear

19K 观看次数 • 8天前

![Image 49 46:45](https://www.youtube.com/watch?v=UWjh5Z4s8jY&pp=ugUEEgJlbg%3D%3D)

Image 50
Image 50

[Hermes联合创始人谈构建自我改进的AI代理 | Karan Malhotra](https://www.youtube.com/watch?v=UWjh5Z4s8jY&pp=ugUEEgJlbg%3D%3D)

Peter Yang

15K 观看次数 • 2天前

New

显示更多

显示更多

[](https://www.youtube.com/watch?v=CIxe1rdg3Pg)

AI 可能会生成不准确的信息,请核实重要内容