题目 ID: q-12331

deepspeed的三个阶段,分配参数时,单机8卡和双机16卡,每张卡上分配的参数量是一样的吗,为什么?

频次 1
机器学习系统

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

阿里巴巴