信息技术 / 云基础设施

Cloudflare:在内部开发组织中运行AI编程工具

企业
Cloudflare
国家
美国
实施阶段
运营中
资料发布
日期依据
资料发布的时间,可能与启用日期不同。
依据核验方式
阅读原文正文

业务问题

Cloudflare是一家约有6,100名员工的互联网基础技术公司。该公司表示,要把AI编程工具真正接入开发工作,仅仅把工具发下去是不够的。问题在于,如果没有关于内部服务、代码仓库和发布记录的结构化信息,AI代理就不会变得好用。模型使用成本,以及内部资料留存在外部模型供应商处的问题,也必须同时解决。原文把这项工作描述为一次历时十一个月的改造,不只是改变代码的写法,还包括评审方式、标准的执行方式,以及如何安全地发布变更。

使用的技术与数据

该公司从全公司抽调人员组成名为iMARS的专项小组,在自有平台上搭建了内部AI开发环境。一个内部门户汇聚了13台生产环境MCP服务器,涵盖Backstage、GitLab、Jira、Sentry、Elasticsearch、Prometheus、Google Workspace和内部的Release Manager,对外提供超过182个工具。GitLab MCP服务器上的34个工具每次请求约消耗15,000个上下文token,原文表示通过Code Mode把它们压缩为两个门户工具。接入认证由Cloudflare Access负责,请求经过单个proxy Worker转到AI Gateway。员工邮箱地址被映射为保存在D1中的UUID,并由KV承担读取缓存,因此AI Gateway只能看到UUID。每小时运行的cron会刷新Workers KV中的模型目录,并在请求中注入值为false的store参数,以避免留存资料。每个代码仓库都生成AGENTS.md文件,服务目录则由自行部署的Backstage填充。

成果

该公司表示,最近30天内其研发组织有93%使用了基于自有平台构建的AI编程工具。该公司说明,实际使用者为3,683人,相当于约6,100名员工总数的60%。该公司表示,merge request的四周滚动平均值从每周约5,600件升至超过8,700件,3月23日那一周达到10,952件,接近第四季度基准的两倍。该公司表示,OpenCode AI Gateway界面显示每天688,460次请求和105.7亿个token通过一个入口分发给四家供应商。在2026年3月上线Workers AI、上下文为256k的模型Kimi K2.5上,一个安全代理每天处理超过70亿个token,该公司估算若使用中档商用模型每年需花费240万美元,而在Workers AI上便宜77%。

局限与待解问题

原文同时给出了全公司使用者比例和merge request的增长,但没有区分其中有多少增长来自AI工具。代码质量和缺陷率的变化也没有给出数据。

来源

本案例根据公开资料整理,并非 ATF Works 客户的成果。

阅读原文 (在新标签页中打开)