O ajuste por instruções aplica fine-tuning a um modelo base com uma grande coleção de tarefas expressas como instruções. Wei et al. (2022) mostraram, com o FLAN, que isso melhora muito o desempenho zero-shot em tarefas inéditas, e Ouyang et al. (2022) combinaram dados de instruções com feedback humano para criar o InstructGPT — a receita que transformou modelos de linguagem brutos em assistentes úteis.
É a etapa que torna um modelo bom em fazer o que lhe pedem, em vez de apenas continuar o texto.