配送与出行 / 网约车与配送
Uber:在软件开发全流程运行AI智能体并管理成本
- 企业
- Uber
- 国家
- 美国
- 实施阶段
- 运营中
- 资料发布
- 日期依据
- 资料发布的时间,可能与启用日期不同。
- 依据核验方式
- 阅读原文正文
业务问题
优步表示,2026年2月至8月间,周活跃用户增长到7倍,每周智能体请求增长到9.4倍,因此需要在保证质量的同时控制不断增加的成本。在安装了100多个工具的情况下,标准的MCP预加载会让工具定义在初始提示中增加约5万至7万个token,并在之后每一轮对话中重复发送。缺少内部上下文的智能体看不到所需的数据表,花了20分钟检查服务代码,并启动了2个子智能体。
使用的技术与数据
公司表示,并非由人启动的托管智能体负责代码审查、自动修复失败的CI、完成包含界面验证的拉取请求、分拣值班告警、调试和维护,人员则审核结果并处理升级的问题。模型通过用真实工作构建的基准测试来选择,输入明确的子智能体默认使用更便宜的模型。交互式会话的提示缓存保留时间从5分钟延长到1小时,自动压缩在40万个token时启动。一个网关位于1,000多个MCP服务器之前,统一管理认证和策略。AI上下文图谱汇集了来自30多个内部系统的2,400万个节点和8,000万条边。成本通过状态栏中的实时费用计数、在达到预期支出的50%、80%和100%时发送的Slack提醒、升级套餐时的经理审批,以及标出16种低效用法的仪表板来呈现。
成果
优步表示,超过70%的拉取请求被归于本地或云端智能体。工程师已创建3,600多个技能,每天执行3万多次。自4月以来总支出相对稳定。每1,000次模型请求的成本在2月至7月间比峰值下降近34%,每个会话的成本比6月峰值下降52%。公司表示,使用量增长到7倍的同时,单位成本下降且质量得到保持。具备内部上下文的智能体查询了历史使用记录,找到50多名分析师使用的数据表,并在38秒内给出答案。
局限与待解问题
70%是被归于智能体的拉取请求比例,并不是未经人工审核就合并的比例,也没有给出缺陷或质量指标。公司说明成本数字只适用于其自身环境,而且大多是2月至7月的数据。由于未给出开始采用的月份,本条记录按资料公开日期排序。
来源
本案例根据公开资料整理,并非 ATF Works 客户的成果。