题目 ID: q-12487

你也做过相关模型部署的工作,那咱们能简要的说一下,我们部署的参数量模型部署的参数量,然后还有它对应的硬件之间的需求关系,比如说我每个参数量的模型所需要的算力需求大概是什么?先给出一个题吧,我们部署一个MOE架构的千分三的235b的一个模型,他所需要的算力大概是多少?

频次 1
机器学习系统

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

美团