首词元延迟
也叫：Time to First Token · TTFT · 首 Token 延迟 · 首字延迟
首词元延迟衡量请求发出到第一个可见输出到达的等待，通常包含排队、预填充、采样和网络传输。
他们说
从请求发出到客户端收到第一个输出 Token 的时间
老白翻译
点下发送以后，等多久才能看到模型开始回答。
它到底是什么
首词元延迟记录用户发出请求到收到第一个非空输出所花的时间。它主要反映排队、输入预填充与网络带来的开口前等待。
生活里的例子
同一个聊天服务可能五秒写完答案，却让用户前三秒看不到任何输出。这里的三秒是 TTFT，后面文字出现的节奏由 ITL 等指标描述。
常见误解
- 误解：TTFT 低就代表整篇答案快。 首个输出之后仍可能逐字卡顿。
- 误解：每个工具算出的 TTFT 可以直接比较。 客户端与服务端的计时起点不同，空流式片段的处理也可能不同。
- 误解：只看平均数就够了。 P99 更容易暴露高并发和长输入造成的尾部排队。
普通人怎么用
固定输入输出长度、并发、网络位置和流式协议，同时记录中位数、P99、ITL、端到端延迟与成功率。