题目 ID: q-6487

Offloading：系统资源不够用的时候，卸载用不到的kvcache，或者没有被激活的专家等等

频次 1

NLP与大模型

当前状态：未收藏、未完成

常见追问

暂无追问变体。

京东