Ioffe と Szegedy（2015）が提案したバッチ正規化は、現在のミニバッチの統計量を使って各層への入力を標準化します。これにより学習中の内部分布の変動が抑えられ、より高い学習率を使えるようになり、はるかに深いネットワークでも安定して学習できるようになりました。
関連する正規化手法（レイヤー正規化など）は、Transformer の内部で標準的に使われる構成要素です。
学習基礎
2026年更新
バッチ正規化
定義
各層への入力を正規化する学習手法。より深いネットワークを、より速く安定して学習させることができます。
参考文献
この定義の根拠となる一次資料、査読済み資料、アーカイブ資料です。
Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
辞書・百科事典の項目
- Wikipedia — Batch normalization
- Google for Developers — Normalization
この項目を引用する
MultipleChat「バッチ正規化」MultipleChat AI・LLM 用語集、2026年。https://multiple.chat/ai-glossary/batch-normalization