论文研究精选蚂蚁百灵团队为何重新设计 SwiGLU?PowLU 激活函数的诞生始末信息来源:公众号:蚂蚁百灵(Ling)·2026-05-29 09:39原始标题:我们为什么要重新设计 SwiGLU?聊一聊 PowLU 的诞生始末内容摘要蚂蚁百灵团队提出新激活函数 PowLU,以解决 SwiGLU 在 FP8 等低精度训练中因二次增长放大异常值导致的 Loss Spike 和训练崩溃问题。内容分类AI 论文与研究内容层级精选情报发布时间(北京时间)2026-05-29 09:39本站收录时间(北京时间)2026-05-29 09:39信息来源公众号:蚂蚁百灵(Ling)站内情报编号intel-3c12d3bed9b1b23816211e73阅读原始信息 ↗查看数据来源更多论文研究分享文章