题目 ID: q-4331

为什么RoPE比绝对位置编码更适合长文本?

频次 4
NLP与大模型

当前状态:未收藏、未完成

常见追问

  • RoPE 为什么能实现相对位置编码?它相比传统绝对位置编码在长文本推理中有什么优势?
  • 6.RoPE 为什么能实现相对位置编码?

常见公司

阿里巴巴百度字节跳动