Mit Tool Use kann ein Modell über seine Trainingsdaten hinausgehen, indem es externe Funktionen aufruft und deren Ausgabe einbezieht. Schick et al. (2023) zeigten mit Toolformer, dass Modelle lernen können, welche API sie wann aufrufen sollen, während Yao et al. (2023) mit ReAct Tool-Aktionen mit explizitem Reasoning kombinierten.
In Produkten wird dies meist als Function Calling bereitgestellt: Das Modell gibt eine strukturierte Anfrage aus, die Anwendung führt sie aus, und das Ergebnis wird an das Modell zurückgegeben, damit es damit weiterarbeiten kann.