题目 ID: q-11691

RMSNorm相较于LayerNorm有什么优势?公式是什么?

频次 7
深度学习 高频

当前状态:未收藏、未完成

常见追问

  • RMSNorm和LayerNorm主要区别在哪里:现在大模型更喜欢哪个,为什么这么设计?
  • RMSNorm与LayerNorm在数学公式上的核心区别是什么?
  • 为何使用 RMSNorm 代替 LayerNorm?

常见公司

美团腾讯