题目 ID: q-11851

知道FP16和BF16有什么区别吗,包括FP32和INT8这些,在训练大模型的时候,应该怎么选择(FP16精度高但易溢出,BF16动态范围大;训练常用BF16混合精度,推理用INT8量化加速)

频次 1
深度学习

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

阿里巴巴