API 中转站的延迟要拆成三段看

背景：同一个模型经过不同网关，体感差异可能很大。

拆分：连接耗时影响稳定性，首 token 影响交互感，完整生成时间影响批处理成本。

结论：只展示平均延迟不够，最好给 P50/P95。

不确定性：这些是冷启动观察框架，具体中转站还需要持续探测数据验证。