题目 ID: q-4910

核心代码模式,写一下大模型预测 token 时, beam 树如何构建,如何得到最终的结果( pytorch 简单实现了一下,主要是还是讲明白)

频次 2
NLP与大模型

当前状态:未收藏、未完成

常见追问

  • 核心代码模式,写一下大模型预测token时,beam树如何构建,如何得到最终的结果(pytorch简单实现了一下,主要是还是讲明白)

常见公司

蚂蚁集团