题目 ID: q-4993

推理分为哪两个阶段?

频次 2
NLP与大模型

当前状态:未收藏、未完成

常见追问

  • 推理主要分为两个阶段 prefill+decoder
  • 5. 推理分为哪两个阶段?(prefill和decode两个阶段)

常见公司

阿里巴巴美团