Hu ら（2021）が提案した LoRA は、事前学習済みの重みを固定し、各層に学習可能な小さな低ランク行列を挿入します。更新されるのはこのごく小さな行列だけなので、学習対象のパラメータ数は桁違いに減り、ファインチューニングに必要なメモリも大幅に削減されます。それでいて品質の低下はわずかです。
アダプターは小さく差し替えも可能なため、LoRA を使えば、1つのベースモデルからタスク別や顧客別の派生モデルを多数、低コストで維持できます。
学習効率化
2026年更新
LoRA（Low-Rank Adaptation）
定義
元の重みを固定したまま、追加した小さな行列だけを学習させて大規模モデルを適応させる、パラメータ効率の高いファインチューニング手法。
参考文献
この定義の根拠となる一次資料、査読済み資料、アーカイブ資料です。
LoRA: Low-Rank Adaptation of Large Language Models
辞書・百科事典の項目
- Wikipedia — Fine-tuning (deep learning) — LoRA
- IBM — Think / Topics — What is LoRA (low-rank adaptation)?
この項目を引用する
MultipleChat「LoRA（Low-Rank Adaptation）」MultipleChat AI・LLM 用語集、2026年。https://multiple.chat/ai-glossary/lora