题目 ID: q-5440

推理70B模型时，发现GPU计算单元利用率极低，主要卡在显存读取上，如何优化？

频次 1

NLP与大模型

当前状态：未收藏、未完成

常见追问

暂无追问变体。

阿里巴巴