정보기술 / 클라우드 인프라
Cloudflare: 사내 개발 조직의 AI 코딩 도구 운영
- 기업
- Cloudflare
- 국가
- 미국
- 도입 상태
- 운영
- 자료 공개
- 날짜 기준
- 자료 발표 시점. 도입 시작일과 다를 수 있음
- 근거 확인 방법
- 원문 본문 열람
업무 문제
Cloudflare는 직원이 약 6,100명인 인터넷 기반 기술 회사다. 이 회사는 AI 코딩 도구를 개발 업무에 제대로 붙이려면 도구를 나눠 주는 것만으로는 부족하다고 밝혔다. 사내 서비스와 저장소, 배포 기록에 관한 구조화된 정보가 없으면 AI 대리 도구가 쓸 만해지지 않는다는 점이 과제였다. 모델 사용 비용과 사내 자료가 외부 모델 제공사에 남는 문제도 함께 풀어야 했다. 원문은 이 작업을 코드를 쓰는 방식만이 아니라 검토하는 방식과 표준을 지키게 하는 방식, 변경을 안전하게 내보내는 방식까지 다시 만든 열한 달의 작업이라고 적었다.
적용한 기술과 데이터
이 회사는 전사에서 사람을 모아 iMARS라는 전담팀을 만들고 자체 플랫폼 위에 사내 AI 개발 환경을 세웠다. 사내 포털 한 곳이 Backstage와 GitLab, Jira, Sentry, Elasticsearch, Prometheus, Google Workspace, 사내 Release Manager를 포함한 운영 MCP 서버 13대를 모아 182개가 넘는 도구를 노출한다. GitLab MCP 서버의 도구 34개는 요청마다 context를 약 15,000 토큰 썼는데, 원문은 이를 Code Mode로 포털 도구 두 개로 줄였다고 밝혔다. 접속 인증은 Cloudflare Access가 맡고 요청은 proxy Worker 하나를 지나 AI Gateway로 간다. 직원 메일 주소는 D1에 저장한 UUID로 바꾸고 KV로 읽기를 받쳐서 AI Gateway에는 UUID만 보인다. 한 시간마다 도는 cron이 Workers KV의 모델 목록을 새로 고치고 요청에 store 값을 false로 넣어 자료가 남지 않게 한다. 저장소마다 AGENTS.md를 만들어 두고 서비스 목록은 직접 운영하는 Backstage로 채운다.
성과
이 회사는 최근 30일 동안 연구개발 조직의 93%가 자체 플랫폼으로 만든 AI 코딩 도구를 썼다고 밝혔다. 실제 사용자는 3,683명으로 전체 직원 약 6,100명의 60%에 해당한다고 설명했다. merge request의 4주 이동평균은 주당 약 5,600건에서 8,700건을 넘겼고 3월 23일 주에는 10,952건으로 4분기 기준의 거의 두 배였다고 밝혔다. OpenCode AI Gateway 화면은 하루 요청 68만 8,460건과 토큰 105억 7,000만 건을 한 창구에서 제공사 네 곳으로 보낸다고 적었다. 2026년 3월 Workers AI에 올린 context 256k 모델 Kimi K2.5에서는 보안 대리 도구 하나가 하루 70억 토큰이 넘게 처리하는데, 중간 등급 상용 모델로는 연 240만 달러가 들 것으로 추정했고 Workers AI에서는 77% 적게 든다고 밝혔다.
한계와 남은 과제
원문은 전사 사용자 비율과 merge request 증가를 함께 밝혔지만 그 증가 가운데 얼마가 AI 도구 때문인지는 구분하지 않았다. 코드 품질과 결함 비율의 변화도 수치로 나오지 않는다.
출처
- The AI engineering stack we built internally — on the platform we shipblog.cloudflare.com, 확인
공개된 자료를 정리한 사례입니다. ATF Works 도입 고객의 결과가 아닙니다.