モデルと製品LLM アーキテクチャ 2026年更新

拡散モデル

定義

少しずつノイズを加えていく過程を逆にたどることでデータの生成を学習する生成モデル。現代の AI 画像生成のほとんどを支える技術です。

拡散モデルは Sohl-Dickstein ら（2015）によって定式化され、Ho ら（2020）によって高品質な画像生成に実用化されました。2つの段階で動作します。データに少しずつノイズを加えていく順方向の過程と、ランダムなノイズからノイズを除去して一貫性のあるサンプルに戻す、学習された逆方向の過程です。

現在の主要なテキスト画像生成システムを支えており、音声や動画の生成にも使われる場面が増えています。

参考文献

この定義の根拠となる一次資料、査読済み資料、アーカイブ資料です。

Denoising Diffusion Probabilistic Models

Ho, J., Jain, A., & Abbeel, P. (2020). Advances in Neural Information Processing Systems 33 (NeurIPS 2020).

出典 arXiv:2006.11239

Deep Unsupervised Learning using Nonequilibrium Thermodynamics

Sohl-Dickstein, J., Weiss, E. A., Maheswaranathan, N., & Ganguli, S. (2015). Proceedings of the 32nd International Conference on Machine Learning (ICML 2015).

出典 arXiv:1503.03585