题目 ID: q-6976

KVCache 量化（vllm也采取了pageAttention，将KV cache当成虚拟内存+页表按照固定的page进行管理）

频次 1

NLP与大模型

当前状态：未收藏、未完成

常见追问

暂无追问变体。

美团