漫话开发者 - UWL.ME Mobile
Loading more...
漫话开发者 - UWL.ME Mobile

Vercel最新发布了一份基于其AI网关产品七个月生产流量数据的分析报告,样本覆盖了数百个模型和超过20万个团队。报告揭示了几个显著趋势:一是智能体(Agentic)工作负载呈现爆发式增长,这类负载在处理时需要动态调用多个模型进行协同决策;二是开源模型的采用率持续提升,表明企业正在从依赖单一专有模型转向多元化的开源生态;三是在大规模部署中,多模型路由技术成为显著特征,超过一半的请求流经了至少两个不同的AI模型。这些趋势反映出AI基础设施正朝着更灵活、更模块化的方向发展,同时也带来了复杂的模型编排、成本监控和安全治理挑战。对于正在构建或扩展现有AI系统的团队而言,这份报告提供了重要的基准参照和战略洞察。

核心要点

  • 智能体(Agentic)工作负载在AI网关流量中增长最快,反映AI系统向自主决策和多步骤推理演进
  • 开源模型的采用率显著上升,企业正从单一模型转向混合模型策略以降低成本并提升灵活性
  • 大规模部署中多模型路由成为常态,超半数请求涉及多个模型,对编排与监控能力提出更高要求

Read more >