题目 ID: q-4760

八股:Decoder-only 模型在推理时,预测第 i+1 个 token 时,输入用的是第 i 个 token 的 one-hot 还是概率分布?为什么?

频次 2
NLP与大模型

当前状态:未收藏、未完成

常见追问

暂无追问变体。

常见公司

字节跳动