观点 / 方法普通
晶圆级芯片I/O带宽瓶颈分析
原始标题：Off-chip bandwidth has always been the weak point of wafer-scale. The WSE-3 has staggering on-wafer …
内容摘要
片外带宽一直是晶圆级芯片的短板。WSE-3 拥有惊人的晶圆上 SRAM 带宽，但一旦数据需要离开晶圆，一切都会变慢。这之所以重要，是因为晶圆仅能容纳 44GB 的 SRAM，因此大模型会被分散到多块晶圆上，而每增加一块晶圆，就意味着有更多数据需要穿越这条带宽受限的 I/O 路径。长上下文会让情况更糟，因为 KV 缓存会进一步推高所需晶圆数量。（1/3）🧵 图片来源：Cerebras
内容分类AI 观点与方法
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源X：SemiAnalysis (@SemiAnalysis_)
站内情报编号intel-b42c31d1971ea42cf04c28fc