식품과 음료 / 가공식품
CJ제일제당: 사내 문서 검색과 전문 번역
- 기업
- CJ제일제당
- 국가
- 한국
- 도입 상태
- 운영
- 자료 공개
- 도입 시점
- 날짜 기준
- 자료 발표 시점. 도입 시작일과 다를 수 있음
- 근거 확인 방법
- 원문 본문 열람
업무 문제
CJ제일제당 직원은 복잡한 업무 문서를 번역하고 방대한 사내 규정집을 요약해야 했다. 최근 몇 년 사이 생성형 AI 서비스가 여럿 나왔지만 보안 문제로 실제 업무에 쓰기 어려웠다. 외부 AI 서비스 사용을 아예 금지한 기업도 있었다.
적용한 기술과 데이터
CJ제일제당 DX Lab이 사내용 생성형 AI 서비스 Snap AI를 만들었다. OpenAI의 GPT-4o API를 써서 개발했고, Microsoft Azure의 OpenAI 모델과 AWS Bedrock의 Claude 모델을 함께 쓴다. 두 업체에서 질의 내용을 학습에 쓰지도 저장하지도 않는다는 문서를 받았다. 회사가 쓰는 AWS와 모델이 있는 Azure 사이에는 프라이빗 링크를 깔아 정보가 밖으로 나가지 않게 했다. 답변은 RAG로 근거 문서를 찾아 붙여 할루시네이션 발생률을 크게 줄였다. 번역은 DeepL API에 사내 용어집을 따로 등록해 그 기준으로 결과를 받는다. 기획부터 개발과 테스트까지 2주 단위로 반복해 고쳤다.
성과
2024년 11월 공개 뒤 월평균 1,500명 정도가 쓰고 있다. 하루 약 3,000개 질의를 처리한다. 지금까지 2,000명 넘는 직원이 15만 건이 넘는 질문을 했다. CJ제일제당은 월간 리텐션이 70%를 넘었고 주요 사용 조직만 보면 75% 정도라고 밝혔다. B2B와 B2E 서비스는 보통 50% 내외면 온보딩이 잘 됐다고 본다. PPT나 PDF를 올리면 30초 만에 번역본으로 바꿔 준다.
한계와 남은 과제
사용량과 리텐션은 이용 지표이지 비용 절감 성과가 아니다. 원문은 번역과 답변 정확도를 잰 조건을 밝히지 않았다.
출처
- 복잡한 문서도 ‘딱’ 하면 척! CJ제일제당 ‘Snap AI’ 이야기 , CJ 뉴스룸cjnews.cj.net, 확인
공개된 자료를 정리한 사례입니다. ATF Works 도입 고객의 결과가 아닙니다.