由于语言模型每次只生成一个 token，API 可以在每个 token 就绪后立即发送，而不必缓存整条回复。这通常通过 Server-Sent Events 实现——一种在 HTML Living Standard 中定义的浏览器原生流式传输机制。
流式输出降低了感知延迟——用户马上就能看到文字——尽管总生成时间并没有改变。
基础设施用户体验
2026 年更新
流式输出（Streaming）
定义
在模型生成回复的同时逐个 token 地发送出去，而不是等整个答案生成完毕，让文字逐步呈现。
参考文献
本定义所依据的一手文献、同行评审文献和存档资料。
Server-sent events (HTML Living Standard, §9.2)
词典与百科条目
- MDN Web Docs — Using server-sent events
- Wikipedia — Server-sent events
引用本条目
MultipleChat.《流式输出（Streaming）》. MultipleChat AI 与 LLM 术语表，2026. https://multiple.chat/ai-glossary/streaming