Transformer模型的核心是自注意力机制（Self-Attention），它允许模型在处理输入序列时，能够关注到序列中的其他位置，从而捕捉长距离依赖关系。Transformer模型通常由多个编码器（Encoder）和解码器（Decoder）堆叠而成，每个编码器和解码器内部都包含自注意力层和前馈神经网络层。