观点 / 方法普通
小米玄戒AI盒子:三芯异构本地跑120B大模型
原始标题:小米玄戒这个AI盒子有点牛逼, 三颗自研芯片塞进一个150W的迷你主机, 本地跑120B大模型, 近存带宽直接干到1.22TB/s, 很多人都在吹200 TOPS算力, 但实际上真正牛逼的是那颗O1…
内容摘要
小米玄戒AI盒子在150W迷你主机内集成三颗自研芯片,本地运行120B大模型,近存带宽达1.22TB/s。核心是O100芯片通过Wafer-on-Wafer将内存叠于计算层,28,672根数据线直连,带宽为传统旗舰手机16倍,官方宣称速度330 tokens/s。该三芯异构方案复用至手机、汽车、桌面平台,工程样机计划2027年商用。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:阿易 AI Notes (@AYi_AInotes)
站内情报编号intel-31a395ae498f05e8e3921168