エージェントはモデルをループで動かします。目標について推論し、ツール呼び出しなどのアクションを実行し、その結果を観察する――これをタスクが完了するまで繰り返します。Yao ら(2023)は推論と行動を交互に行うこの仕組みを ReAct フレームワークとして定式化し、Schick ら(2023)は Toolformer で、モデルが外部ツールをいつ・どのように呼び出すかを自ら学習できることを示しました。
チャットボットとの違いは、複数のステップにわたって自律的に動くことです。これがエージェントの強みである一方、信頼性や安全性の課題も生じます。