配备24GB VRAM的RTX 4090能够运行Qwen3.8-27B这类中型大语言模型,但这还取决于你所使用的量化级别,更不用说你还得做出调整和其他优化,比如调整上下文窗口以控制在显存限制之内。然而,一位用户显然发现,通过核显而非RTX 4090的HDMI或DisplayPort接口连接外接显示器,可以释放出足够的VRAM,将上下文窗口翻倍。

即便上下文窗口翻倍了,最大的痛点仍然是在运行游戏和其他图形密集型任务时,必须在RTX 4090和核显之间来回切换。
此前连接RTX 4090时,Reddit用户“u/Reklaw12”表示,由于VRAM限制,他最多只能将上下文窗口设为65K。幸运的是,由于他的桌面CPU带有集成图形处理器,他拔掉了HDMI线并将其连接到主板接口,似乎额外获得了VRAM提升,使他能够运行高达132K的上下文窗口,令牌生成速度达到125。
不管他的说法是否可信,目前没有视频演示来证明这一说法,所以我们只能持保留态度。据这位Reddit用户称,这种方法的唯一缺点是在玩游戏时,他必须从主板拔下HDMI线,再插回RTX 4090。正如预期的那样,其他Reddit用户并不太相信这可行。假设确实可行,也会存在性能上的取舍。
例如,使用核显会占用PCIe通道,取决于CPU和主板的不同,这可能严重影响性能,也可能毫无影响。其他人则表示,即便将三台外接显示器连接到一块显卡上,闲置VRAM消耗也只有0.9GB,而在播放4K YouTube视频时,显存占用最多升至2.5GB。
在整个Reddit讨论帖中,只有HighSeasArchivist站在u/Reklaw12这一边,他声称自己单块配备32GB VRAM的Radeon AI PRO R9700在运行Qwen3.7-27B并搭配128K上下文窗口时力不从心。在切换到核显后,VRAM释放了1GB,远低于u/Reklaw12所称的2.5GB,但这就是我们目前掌握的全部信息。对于想要验证这一说法的用户,请确保你的桌面CPU带有集成GPU。
对于游戏笔记本电脑用户来说,这不会成为问题。所以如果你发现了什么有趣的东西,欢迎在评论区分享细节。



