题目 ID: q-7306

transformer的八股，挺常规的，比如为什么是Ln不是BN，写attention的公式，encoder和decoder怎么交互，decoder几层mha，transformer和rnn的不同