에이전트는 모델을 루프 안에서 실행합니다. 목표에 대해 추론하고, 도구 호출 같은 행동을 취하고, 그 결과를 관찰한 뒤 작업이 끝날 때까지 이를 반복합니다. Yao 외(2023)는 ReAct 프레임워크에서 추론과 행동을 번갈아 수행하는 방식을 정식화했고, Schick 외(2023)는 Toolformer를 통해 모델이 외부 도구를 언제, 어떻게 호출할지 스스로 학습할 수 있음을 보여 주었습니다.
챗봇과의 차이는 여러 단계에 걸친 자율성입니다. 이 때문에 에이전트는 강력하지만, 동시에 신뢰성과 안전성에 대한 의문도 제기됩니다.