题目 ID: q-7569

qkv 矩阵乘优化,kvcache引入后,qkT变成gemm和gemv两种优化

频次 1
NLP与大模型

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

小米