Eine API ist ein festgelegter Vertrag, über den ein Programm Dienste von einem anderen anfordert. Die meisten KI-Anbieter stellen ihre Modelle über HTTP-APIs bereit, die meist dem von Fielding (2000) beschriebenen REST-Architekturstil folgen: Anfragen enthalten den Prompt und die Parameter, Antworten liefern die generierten Tokens als strukturiertes JSON.
Über APIs wird KI in andere Produkte eingebettet – in Back-Ends, Automatisierungen und Apps –, statt nur über ein Chatfenster genutzt zu werden.