产品发布 / 更新精选
小红书与北大开源 UltraEP：面向大规模 MoE 训推的实时负载均衡方案
原始标题：小红书、北大开源 UltraEP：面向大规模 MoE 训推的「最优」负载均衡方案
内容摘要
小红书与北大提出 UltraEP，首次将基于精确路由信息的实时负载均衡引入生产系统，在每个 microbatch 和每一层动态复制热点专家。在 Qwen3-235B 等模型上，训练吞吐平均达到理想性能的 94.6%，相比 Megatron-LM 提升 42%；推理 prefill 吞吐相比 SGLang 提升 1.56 倍。
内容分类AI 产品发布与更新
内容层级精选情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源公众号：小红书技术（dots.llm）
站内情报编号intel-7dea53e7b3549c93b2043e69