Vercel AI Gateway的智能故障备援是其区别于直接使用AI供应商API的关键功能之一。在传统模式下，当开发者直接调用某个AI模型的API时，如果该服务出现故障，应用将完全依赖开发者的错误处理机制。而AI Gateway则内置了自动故障转移能力，能根据预先配置的策略，在检测到主模型服务不可用时立即将请求无缝切换到备选模型。
这种机制的工作原理是：网关实时监控所有上游模型的健康状态，一旦发现问题就会按照开发者设定的备援优先级（可以基于成本、性能等标准配置）切换流量。例如，当主模型OpenAI的GPT-4出现服务中断时，系统可以自动将请求切换到Anthropic的Claude模型。这不仅避免了人工处理紧急故障的延迟，还能保证终端用户几乎感知不到服务切换，将意外停机的影响降到最低。
This answer comes from the articleVercel AI Gateway: a gateway to manage and optimize AI application requestsThe
May not be reproduced without permission:AI productivity tools " Vercel AI Gateway的智能故障备援功能显著提升了应用可靠性
English 
简体中文 
日本語 
Deutsch 
Português do Brasil