题目 ID: q-2071

问了推理加速的项目（实习中做的），线上请求的QPS有多少，模型推理速度如何？用的什么显卡？推理加速是怎么做的？