AI网关生产流量趋势报告:多模型路由与开源模型采用率激增
thinkindev • 2026-05-14
1452 views
Vercel最新发布了一份基于其AI网关产品七个月生产流量数据的分析报告,样本覆盖了数百个模型和超过20万个团队。报告揭示了几个显著趋势:一是智能体(Agentic)工作负载呈现爆发式增长,这类负载在处理时需要动态调用多个模型进行协同决策;二是开源模型的采用率持续提升,表明企业正在从依赖单一专有模型转向多元化的开源生态;三是在大规模部署中,多模型路由技术成为显著特征,超过一半的请求流经了至少两个不同的AI模型。这些趋势反映出AI基础设施正朝着更灵活、更模块化的方向发展,同时也带来了复杂的模型编排、成本监控和安全治理挑战。对于正在构建或扩展现有AI系统的团队而言,这份报告提供了重要的基准参照和战略洞察。
核心要点
- 智能体(Agentic)工作负载在AI网关流量中增长最快,反映AI系统向自主决策和多步骤推理演进
- 开源模型的采用率显著上升,企业正从单一模型转向混合模型策略以降低成本并提升灵活性
- 大规模部署中多模型路由成为常态,超半数请求涉及多个模型,对编排与监控能力提出更高要求