题目 ID: q-7547

单机多卡部署时,VLLM 内部是怎么做张量并行(TP)和流水线并行(PP)的?

频次 1
NLP与大模型

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

小米