AI圈报
观点 / 方法普通

单张 RTX 4090 跑起 125B Qwen 3.8 Flash Next

信息来源:X:阿易 AI Notes (@AYi_AInotes)·
原始标题:本地大模型的显存壁垒,今天被正式宣告物理终结了, 单张 24G 的 RTX 4090,竟然真把 125B 的 Qwen 3.8 Flash Next 给跑起来了, 而且上下文直接拉到了 25 万,解码…

内容摘要

海外极客用单张 24G RTX 4090 加 110G DDR4 内存,在 Ubuntu 上跑起 125B 的 Qwen 3.8 Flash Next,上下文拉到 25 万,解码速度每秒 21 词。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:阿易 AI Notes (@AYi_AInotes)
站内情报编号intel-88fff843d7ac3efe681305c3