公开实测方法
说明我们如何度量成功率、首字延迟(TTFT)与吞吐。下列口径来自内部质量指标定义与历史压测脚本,便于复查,不构成对任意时刻的 SLA 承诺。
1. 数据来源
- 控制台消费/错误日志(SQLite
logs):用于运营期净成功率、错误分布 - 主动压测脚本(Chat Completions):用于 TTFT、tokens/s、QPS 样本
2. 核心指标
- 净成功率:消费行中无 stream error 的比例(口径见内部质量指标 v1)
- TTFT:首 token 时间;压测报告给出 P50 / P95 / P99
- tokens/s:单路生成速度;QPS 为并发窗口内请求吞吐
3. 历史样本怎么读
状态页摘录的 2026-07-01 OpenAI 文本跑批:每模型 30 次单路延迟样本,另含中并发 QPS 档位。数字标注「历史样本」,用于说明我们具备可复查测法,而非宣称当前秒级全站表现。
4. 与生产监测的关系
线上持续监测成功率、TTFT 与错误率;公开页优先展示方法与可公开的历史样本。企业 SLA 以商务确认为准。
禁止把历史样本改写成「全网最低延迟 / 绝对稳定」。最后核验:2026-07-18