题目 ID: q-4559
QLoRA是怎么降低资源成本的?NF4和FP16这组组合为什么有效?
NLP与大模型
当前状态:未收藏、未完成
常见追问
- 项目:常见的量化方式有哪些,QLoRA为什么选的是NF4和FP16这组组合,而不是别的组合?你能说说NF4的分布拟合逻辑吗
- QLoRA是怎么降低资源成本的?NF4和FP16这组组合为什么有效?
- 你刚才提到用过QLoRA,那你能具体说说QLoRA是怎么降低资源成本的吗?常见的量化方式有哪些,QLoRA为什么选的是NF4和FP16这组组合,而不是别的组合?你能说说NF4 的分布拟合逻辑吗
常见公司
通用题库美团