ツール使用により、モデルは外部の機能を呼び出してその出力を取り込むことで、学習データの範囲を超えた処理ができるようになります。Schick et al.(2023)は Toolformer で、どの API をいつ呼び出すべきかをモデルが学習できることを示しました。また Yao et al.(2023)は ReAct で、ツールによる行動と明示的な推論を組み合わせました。
製品としては、通常 Function Calling(関数呼び出し)という形で提供されます。モデルが構造化されたリクエストを出力し、アプリケーションがそれを実行して、その結果がモデルに戻されて活用されます。