模型原理 2026.07.06 阅读 0 评论 0 点赞 0 Transformer 与模型微调 核心架构 EncoderDecoder:Encoder 理解输入转高维语义表示(BERT);Decoder 生成输出,据上下文预测下一 Token(GPT)。 灵魂机制 SelfAttention 自注意力:每个词与句中所有词算相关性,用 #Transformer#微调#LoRA