题目 ID: q-12206

当时你用 DeepSpeed ZeRO-3 来微调 Qwen2-72B,每一张卡占用的显存大概是多少,估算一下为什么是占这么多的显存

频次 4
机器学习系统

当前状态:未收藏、未完成

常见追问

  • 7.当时你用 DeepSpeed ZeRO -3来微调Qwen2-72B,每一张卡占用的显存大概是多少,估算一下为什么是占这么多的显存

常见公司

腾讯