역전파는 신경망의 각 가중치가 출력 오차에 얼마나 기여했는지 계산하며, 연쇄 법칙을 이용해 손실에서 시작한 기울기를 모든 층을 거슬러 전파합니다. Rumelhart, Hinton & Williams(1986)가 다층 신경망을 학습시키는 실용적인 방법으로 널리 알리면서 딥러닝이 실현 가능해졌습니다.
CNN부터 Transformer까지, 이 용어집에 나오는 모든 모델은 Adam 같은 옵티마이저와 함께 역전파로 학습됩니다.
학습기초
2026년 업데이트
역전파(Backpropagation)
정의
예측 오차를 역방향으로 전파해 각 가중치를 조정함으로써 신경망을 학습시키는 알고리즘으로, 거의 모든 딥러닝을 움직이는 엔진입니다.
참고문헌
이 정의의 근거가 된 1차 자료, 동료 심사 자료 및 기록 자료입니다.
Learning representations by back-propagating errors
사전 및 백과사전 항목
- Wikipedia — Backpropagation
- Google for Developers — Backpropagation
이 항목 인용하기
MultipleChat. “역전파(Backpropagation).” MultipleChat AI·LLM 용어집, 2026. https://multiple.chat/ai-glossary/backpropagation