인스트럭션 튜닝은 지시문 형태로 표현된 방대한 작업 모음으로 기본 모델을 파인튜닝하는 것입니다. Wei 외(2022)는 FLAN에서 이 방식이 처음 보는 작업에 대한 제로샷 성능을 크게 높인다는 것을 보여 주었고, Ouyang 외(2022)는 지시 데이터와 인간 피드백을 결합해 InstructGPT를 만들었습니다. 이것이 날것의 언어 모델을 유용한 어시스턴트로 바꾼 방법입니다.
단순히 텍스트를 이어 쓰는 것이 아니라, 시키는 일을 잘 해내는 모델로 만드는 단계입니다.