SFT使用的数据可能和原始模型预训练时的数据分布有较大区别，怎么解决？

常见追问

• 数据分布：SFT 微调数据与预训练数据分布差异较大时，该如何处理？
• SFT使用的数据可能和原始模型预训练时的数据分布有较大区别,怎么解决?
• 项目:SFT使用的数据可能和原始模型预训练时的数据分布有较大区别,怎么解决?

常见公司