Sutskever ら（2014）は Sequence-to-Sequence の枠組みを提案しました。エンコーダーネットワークが入力系列を1つの表現に圧縮し、デコーダネットワークがそこから出力系列を生成するというものです。このエンコーダー・デコーダのパターンはニューラル機械翻訳の基盤となり、現代の生成モデルの概念上の祖先にあたります。
アテンション、そして Transformer は、入力全体を1つの固定長ベクトルに押し込めるというボトルネックを克服するために開発されました。
LLM アーキテクチャ基礎
2026年更新
Sequence-to-Sequence（Seq2Seq）
定義
ある系列を別の系列へ変換するエンコーダー・デコーダ型のニューラルアーキテクチャ。ニューラル機械翻訳、そして後の生成型チャットを可能にした設計です。
参考文献
この定義の根拠となる一次資料、査読済み資料、アーカイブ資料です。
Sequence to Sequence Learning with Neural Networks
辞書・百科事典の項目
- Wikipedia — Seq2seq
- Google for Developers — Sequence-to-sequence models
この項目を引用する
MultipleChat「Sequence-to-Sequence（Seq2Seq）」MultipleChat AI・LLM 用語集、2026年。https://multiple.chat/ai-glossary/seq2seq