题目 ID: q-5441

MQA极端地让所有Query共享一组KV,极大压缩了显存和带宽,但牺牲了模型表达能力。

频次 1
NLP与大模型

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

阿里巴巴