#encoder-decoder

Transformer 架构详解：从 Attention 机制到行业范式

本文全面解析Transformer：首个完全基于注意力机制的序列转换模型。文章先对比RNN/CNN的不足，再介绍编码器-解码器架构、多头自注意力、Scaled Dot-Product Attention、位置编码与训练细节，最后给出WMT机器翻译实验结果，说明其训练效率与翻译质量优势。