知道FP16和BF16有什么区别吗,包括FP32和INT8这些,在训练大模型的时候,应该怎么选择

常见追问

• 知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择
• 7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择
• FP16、BF16、FP32、INT8这些格式有什么区别？在训练和推理大模型时，一般会如何选择？

常见公司