Note / Sep 28, 2026
AI Gateway 的职责边界
统一模型入口很有用，但它不会自动解决评估、上下文设计和产品可靠性。
AI Gateway 最直观的价值，是把不同模型供应商的认证、路由、重试、配额和可观测性收拢到一个入口。
但“统一调用”不等于“系统可靠”。提示词变化、模型升级、工具调用失败、评估样本失真，以及 Agent 的长链路决策，仍然需要应用层自己负责。
我更愿意把 Gateway 看成可靠性基础设施的一层：它让问题更容易被看见和控制，却不能替代端到端评估。
Note / Sep 28, 2026
统一模型入口很有用，但它不会自动解决评估、上下文设计和产品可靠性。
AI Gateway 最直观的价值，是把不同模型供应商的认证、路由、重试、配额和可观测性收拢到一个入口。
但“统一调用”不等于“系统可靠”。提示词变化、模型升级、工具调用失败、评估样本失真，以及 Agent 的长链路决策，仍然需要应用层自己负责。
我更愿意把 Gateway 看成可靠性基础设施的一层：它让问题更容易被看见和控制，却不能替代端到端评估。