题目 ID: q-7540

知道哪些加速transformer的方法?你认为瓶颈主要来自于哪里?除了sparse和linear还知道什么?用了kv cache以后效果和原先对比?

频次 1
NLP与大模型

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

小红书