配送与出行 / 网约车与配送

Uber:在软件开发全流程运行AI智能体并管理成本

企业
Uber
国家
美国
实施阶段
运营中
资料发布
日期依据
资料发布的时间,可能与启用日期不同。
依据核验方式
阅读原文正文

业务问题

优步表示,2026年2月至8月间,周活跃用户增长到7倍,每周智能体请求增长到9.4倍,因此需要在保证质量的同时控制不断增加的成本。在安装了100多个工具的情况下,标准的MCP预加载会让工具定义在初始提示中增加约5万至7万个token,并在之后每一轮对话中重复发送。缺少内部上下文的智能体看不到所需的数据表,花了20分钟检查服务代码,并启动了2个子智能体。

使用的技术与数据

公司表示,并非由人启动的托管智能体负责代码审查、自动修复失败的CI、完成包含界面验证的拉取请求、分拣值班告警、调试和维护,人员则审核结果并处理升级的问题。模型通过用真实工作构建的基准测试来选择,输入明确的子智能体默认使用更便宜的模型。交互式会话的提示缓存保留时间从5分钟延长到1小时,自动压缩在40万个token时启动。一个网关位于1,000多个MCP服务器之前,统一管理认证和策略。AI上下文图谱汇集了来自30多个内部系统的2,400万个节点和8,000万条边。成本通过状态栏中的实时费用计数、在达到预期支出的50%、80%和100%时发送的Slack提醒、升级套餐时的经理审批,以及标出16种低效用法的仪表板来呈现。

成果

优步表示,超过70%的拉取请求被归于本地或云端智能体。工程师已创建3,600多个技能,每天执行3万多次。自4月以来总支出相对稳定。每1,000次模型请求的成本在2月至7月间比峰值下降近34%,每个会话的成本比6月峰值下降52%。公司表示,使用量增长到7倍的同时,单位成本下降且质量得到保持。具备内部上下文的智能体查询了历史使用记录,找到50多名分析师使用的数据表,并在38秒内给出答案。

局限与待解问题

70%是被归于智能体的拉取请求比例,并不是未经人工审核就合并的比例,也没有给出缺陷或质量指标。公司说明成本数字只适用于其自身环境,而且大多是2月至7月的数据。由于未给出开始采用的月份,本条记录按资料公开日期排序。

来源

本案例根据公开资料整理,并非 ATF Works 客户的成果。

阅读原文 (在新标签页中打开)