LoRA 由 Hu 等人（2021）提出，它冻结预训练权重，并在每一层注入小型、可训练的低秩矩阵。训练时只更新这些极小的矩阵，使需要训练的参数量减少几个数量级，微调的内存开销也大幅下降——而质量几乎没有损失。
由于适配器体积小、可随时替换，LoRA 让基于同一个基础模型维护大量面向特定任务或特定客户的变体变得十分便宜。
训练效率
2026 年更新
LoRA（低秩适配）
定义
一种参数高效的微调方法：冻结原始权重，只训练新增的小型矩阵来适配大模型。
参考文献
本定义所依据的一手文献、同行评审文献和存档资料。
LoRA: Low-Rank Adaptation of Large Language Models
词典与百科条目
- Wikipedia — Fine-tuning (deep learning) — LoRA
- IBM — Think / Topics — What is LoRA (low-rank adaptation)?
引用本条目
MultipleChat.《LoRA（低秩适配）》. MultipleChat AI 与 LLM 术语表，2026. https://multiple.chat/ai-glossary/lora