미디어와 콘텐츠 / 온라인 동영상
Netflix: 공통 추천 모델을 여러 서비스에 연결
- 기업
- Netflix
- 국가
- 미국
- 도입 상태
- 운영
- 자료 공개
- 날짜 기준
- 자료 발표 시점. 도입 시작일과 다를 수 있음
- 근거 확인 방법
- 원문 본문 열람
업무 문제
Netflix 홈 화면은 여러 전문 모델이 나눠 맡는다. 이 모델을 각각 유지하고 개선하는 데 시간과 자원이 많이 들었다. 그래서 회원 취향 학습을 한곳으로 모으고, 큰 모델 하나가 배운 것을 다른 모델에 나눠 주기로 했다. 대형 모델을 이미 돌아가는 운영 시스템에 넣는 방법을 다룬 자료는 드물었다.
적용한 기술과 데이터
Netflix는 세 가지 연결 방식을 실험했고 지금은 용도별로 모두 쓴다. 첫째는 embedding이다. 마지막 사용자 이벤트의 hidden state를 프로필 embedding으로, item tower의 weight를 item embedding으로 뽑는다. Foundation Model은 매달 처음부터 사전학습하고 매일 최신 데이터로 미세조정한다. batch 추론으로 embedding을 새로 만들어 Embedding Store에 올린다. 학습을 새로 할 때마다 embedding 공간이 달라지므로 같은 공간으로 맞추는 안정화 기법을 쓴다. 둘째는 subgraph다. Foundation Model의 decoder stack을 응용 모델 그래프 안에 넣어 원시 사용자 행동 순서를 바로 처리한다. 셋째는 미세조정이다. Trending now 줄처럼 최근 행동이 더 중요한 화면은 제품별 데이터로 미세조정한 모델을 바로 쓴다.
성과
Netflix는 세 방식 모두 실제 추천 서비스에서 쓰인다고 밝혔다. embedding 방식은 비용이 적고 효과가 커서 대부분 여기서 시작한다. 팀은 이 기반을 중요하게 보고 준실시간 embedding 생성 체계를 추가로 만들어 세션 중 행동으로 embedding을 갱신할 수 있게 됐다.
한계와 남은 과제
원문에는 시청 증가율 같은 서비스 지표가 없다. Netflix는 embedding의 최신성 저하, subgraph의 모델 크기와 추론 시간 증가, 미세조정에 따른 유지 대상 모델 증가를 단점으로 함께 밝혔다.
출처
- integrating netflixs foundation model into personalization applicationsnetflixtechblog.medium.com, 확인
공개된 자료를 정리한 사례입니다. ATF Works 도입 고객의 결과가 아닙니다.