OpenRouter：Seed 2.0 Lite 实时延迟、吞吐与 Provider 活动观察

一句话结论

OpenRouter 当前页面观测到 Lite 约 1.90 秒 P50 延迟、44 tok/s P50 吞吐和 99.98% 三日可用率，适合做低延迟默认路由的候选，但这些是单一网关的实时统计而非模型能力 benchmark。

适用场景

• 适合的任务：高并发文本/视觉/工具调用、低延迟 Agent 默认路由、网关健康监控和 reasoning token 成本估计。

• 不适合的任务：把 OpenRouter 的 P50 或价格当作方舟直连 SLA，或据此证明 Lite 的回答质量。

• 适用的模型版本：OpenRouter slug bytedance-seed/seed-2.0-lite；上游模型快照未公开。

• 适用的客户端、Agent 或 API：OpenRouter OpenAI-compatible API、Responses/Anthropic 兼容入口；页面显示当前一个上游 Provider。

• 推荐的推理档位和参数：页面支持 reasoning、max_tokens、temperature、top_p、tools、tool_choice 和 response_format；评测时固定并记录。

测试环境

• 观测方：OpenRouter 公开模型页，非受控实验室 benchmark。

• Provider：页面显示一个 Provider，OpenRouter 直接转发。

• 统计窗口：页面当前显示 Aug 15 23:00 至 Aug 18 23:00 的三日数据，并列出近 24 小时可用率。

• 请求分布：页面没有公开 prompt、输入长度、并发、地区、P95/P99 或样本数。

输入/配置

• 模型 slug：bytedance-seed/seed-2.0-lite。

• 上下文/输出：页面显示 262,144 token context window、131,072 max output。

• 加权平均价格：输入 $0.2547/百万 token、输出 $2.008/百万 token；列表价格为 $0.25/$2。

• 调用：页面提供 OpenAI-compatible quick start，并建议保留 reasoning details 以延续多轮思考。

结果数据

• P50 延迟：1.90 秒。

• P50 吞吐：44 tok/s。

• Uptime（近 3 天）：100.00%。

• Availability（近 3 天）：99.98%；近 24 小时同为 99.98%。

• 页面活动量：Prompt 581M、Reasoning 14M、Completion 2.99M token；这是网关流量观察，不是质量分数。

• 公开应用信号：页面列出 Claude Code、Hermes Agent、OpenClaw 等应用使用流量，但没有公开这些应用的成功率或任务结果。

结论

Lite 在 OpenRouter 的实时数据支持“低延迟、高吞吐、低价格候选”的定位，适合作为高覆盖默认路由，再将高准确率或复杂工程任务升级到 Pro。质量和尾延迟仍需在目标 provider、真实任务和相同 harness 下复测。

局限

• 单一 provider/gateway、动态三日窗口，不能代表所有地区、方舟直连或未来价格。

• 未公开统计采样方法、输入长度分布、并发和错误分类；P50 不代表尾延迟。

• 262K/131K 是 OpenRouter 页面展示，和其他 provider 的上下文、输出限制可能不同。

复现步骤

1. 固定模型 slug、输入 token 桶、并发、stream、max_tokens、reasoning 和工具配置。

2. 对 OpenRouter 与方舟直连分别收集 TTFT、总延迟、吞吐、错误、重试、reasoning token 和价格。

3. 计算 P50/P95/P99、可用率和每个完成任务成本，并与实际任务成功率/人工 review 关联。

4. 每次保存采集时间窗口和 provider 快照，避免把动态页面数字当作永久规格。

来源摘录或观察（仅做合规短引）

• 页面将 Lite 称为生产工作负载的默认候选，并同时展示延迟、吞吐、价格和上下文。

• 页面说明一个上游 Provider 直接转发；因此网关数据更适合作为接入观察，不是跨供应商比较。