题目 ID: q-7357

针对Transformer模型推理过程,您会采用哪些优化手段(如KV Cache、算子融合等)?请说明原理及收益。

频次 1
NLP与大模型

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

腾讯