题目 ID: q-4559

QLoRA是怎么降低资源成本的?NF4和FP16这组组合为什么有效?

频次 3
NLP与大模型

当前状态:未收藏、未完成

常见追问

  • 项目:常见的量化方式有哪些,QLoRA为什么选的是NF4和FP16这组组合,而不是别的组合?你能说说NF4的分布拟合逻辑吗
  • QLoRA是怎么降低资源成本的?NF4和FP16这组组合为什么有效?
  • 你刚才提到用过QLoRA,那你能具体说说QLoRA是怎么降低资源成本的吗?常见的量化方式有哪些,QLoRA为什么选的是NF4和FP16这组组合,而不是别的组合?你能说说NF4 的分布拟合逻辑吗

常见公司

通用题库美团