البث المتدفّق (Streaming)

لأن النماذج اللغوية تُنتج رمزًا واحدًا في كل مرة، يمكن لواجهة برمجة التطبيقات أن ترسل كل رمز فور جاهزيته بدلًا من تخزين الرد الكامل مؤقتًا. ويُقدَّم ذلك عادةً عبر Server-Sent Events، وهي آلية بث مدمجة في المتصفحات ومعرَّفة في HTML Living Standard.

يقلّل البث التدريجي زمن الاستجابة المُدرَك — إذ يرى المستخدم الكلمات فورًا — رغم أن الزمن الإجمالي للتوليد لا يتغيّر.