AI圈报
论文研究精选

蚂蚁百灵团队为何重新设计 SwiGLU?PowLU 激活函数的诞生始末

信息来源:公众号:蚂蚁百灵(Ling)·
原始标题:我们为什么要重新设计 SwiGLU?聊一聊 PowLU 的诞生始末

内容摘要

蚂蚁百灵团队提出新激活函数 PowLU,以解决 SwiGLU 在 FP8 等低精度训练中因二次增长放大异常值导致的 Loss Spike 和训练崩溃问题。
内容分类AI 论文与研究
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源公众号:蚂蚁百灵(Ling)
站内情报编号intel-3c12d3bed9b1b23816211e73