题目 ID: q-5062

训练推理一致性领域中,强化学习、flash attention分块策略和vllm框架的page attention分块策略有哪些应用?

频次 2
NLP与大模型

当前状态:未收藏、未完成

常见追问

  • 有没有了解过训练推理一致性这个领域?我讲了一下强化学习领域的推训一致性,固定 flash attention 分块策略, vllm 推理框架固定 page attention 分块策略。
  • 有没有了解过训练推理一致性这个领域?我讲了一下强化学习领域的推训一致性,固定flash attention分块策略,vlm推理框架固定page attention分块策略。

常见公司

蚂蚁集团