题目 ID: q-5445

在QLoRA中,量化常数本身也被量化了。面试官会询问NormalFloat4(NF4)数据类型的设计原理,即利用权重通常服从正态分布的先验知识,通过分位数映射实现比标准Int4更高的精度。

频次 1
NLP与大模型

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

阿里巴巴