Um agente executa um modelo em loop: ele raciocina sobre um objetivo, realiza uma ação, como uma chamada de ferramenta, observa o resultado e repete o ciclo até concluir a tarefa. Yao et al. (2023) formalizaram a intercalação entre raciocínio e ação no framework ReAct, e Schick et al. (2023) mostraram, com o Toolformer, que os modelos podem aprender a decidir quando e como chamar ferramentas externas.
A diferença em relação a um chatbot é a autonomia ao longo de várias etapas — o que torna os agentes poderosos, mas também levanta questões de confiabilidade e segurança.