Ein Agent führt ein Modell in einer Schleife aus: Er überlegt, wie ein Ziel zu erreichen ist, führt eine Aktion aus – etwa einen Tool-Aufruf –, beobachtet das Ergebnis und wiederholt das, bis die Aufgabe erledigt ist. Yao et al. (2023) haben das Verzahnen von Schlussfolgern und Handeln im ReAct-Framework formalisiert, und Schick et al. (2023) zeigten mit Toolformer, dass Modelle lernen können zu entscheiden, wann und wie sie externe Tools aufrufen.
Der Unterschied zu einem Chatbot ist die Autonomie über mehrere Schritte hinweg – das macht Agenten leistungsfähig, wirft aber auch Fragen zu Zuverlässigkeit und Sicherheit auf.