题目 ID: q-4176 🔥 如何估算 LLaMA-7B 模型推理时的显存占用？ 频次 15 NLP与大模型 高频 收藏 标记完成 当前状态：未收藏、未完成 常见追问 7b多的模型需要多少内存占用，估算一下？大模型显存评估：7B模型做FP16推理需要多少显存？KV Cache怎么算？7B模型做FP16推理需要多少显存？ 常见公司 字节跳动美团小红书通用题库百度