파인튜닝(Fine-Tuning)

파인튜닝은 이미 언어를 이해하는 모델을 더 작고 목적에 맞춘 데이터셋으로 학습시켜 가중치를 조금씩 조정하는 것입니다. Howard & Ruder(2018)는 ULMFiT로 NLP의 현대적 전이 학습 방식을 확립했고, Devlin 외(2019)는 BERT로 ‘사전 학습 후 파인튜닝’을 지배적인 패러다임으로 만들었습니다.

프롬프팅과 비교하면 파인튜닝은 원하는 동작을 모델에 영구적으로 새겨 넣어 추론 시 비용을 낮출 수 있습니다. 대신 학습을 한 번 돌려야 하고, 데이터셋을 계속 관리해야 합니다.