インストラクションチューニングでは、指示の形で表現された大量のタスクを使ってベースモデルをファインチューニングします。Wei ら(2022)は FLAN で、これにより未知のタスクでのゼロショット性能が大きく向上することを示しました。また Ouyang ら(2022)は指示データと人間のフィードバックを組み合わせて InstructGPT を構築しました。これが、素の言語モデルを役に立つアシスタントへと変えた手法です。
単にテキストの続きを書くだけでなく、指示されたことを的確にこなせるモデルにするための工程です。