首先，编码器的前向传播是

源语言：我 爱 中国 ↓

Embedding + Position Encoding
↓
Multi-Head Self-Attention
↓
Add & LayerNorm
↓
Feed Forward Network
↓
Add & LayerNorm

↓
Decoder
↓
输出 logits
↓
Softmax + Loss

其中，Loss 通常是在解码器 Decoder 最后产生的，然后梯度先反传 Decoder，再通过 Cross-Attention 传回 Encoder。