メディアとコンテンツ / オンライン動画
Netflix：共通の推薦モデルを複数のサービスにつなぐ
- 企業
- Netflix
- 国
- 米国
- 導入状況
- 運用中
- 資料公開
- 日付の基準
- 資料が公開された時点。導入を開始した日とは異なる場合がある。
- 根拠の確認方法
- 原文の本文を閲覧
業務課題
Netflixのホーム画面は複数の専門モデルが分けて担っている。このモデルをそれぞれ保守し改善するのに時間と資源が多くかかった。そこで会員の好みの学習を一か所に集め、大きなモデル一つが学んだことを他のモデルに分け与えることにした。大型のモデルをすでに動いている運用のシステムに入れる方法を扱った資料はまれだった。
使った技術とデータ
Netflixは三つのつなぎ方を試し、今は用途ごとにすべて使っている。一つ目はembeddingである。最後の利用者イベントのhidden stateをプロフィールのembeddingとして、item towerのweightをitemのembeddingとして取り出す。Foundation Modelは毎月一から事前学習し、毎日最新のデータで微調整する。batchの推論でembeddingを作り直し、Embedding Storeに上げる。学習をやり直すたびにembeddingの空間が変わるので、同じ空間に合わせる安定化の手法を使う。二つ目はsubgraphである。Foundation Modelのdecoder stackを応用モデルのグラフの中に入れ、生の利用者の行動の順序をそのまま処理する。三つ目は微調整である。Trending nowの列のように最近の行動がより重要な画面は、製品ごとのデータで微調整したモデルをそのまま使う。
成果
Netflixは、三つの方式がすべて実際の推薦のサービスで使われていると述べた。embeddingの方式は費用が少なく効果が大きいので、多くはここから始める。チームはこの土台を重く見ており、準リアルタイムのembedding生成の体系を追加で作って、セッション中の行動でembeddingを更新できるようにした。
限界と残る課題
原文には視聴の増加率のようなサービスの指標がない。Netflixは、embeddingの最新性の低下、subgraphによるモデルの大きさと推論時間の増加、微調整に伴う保守対象のモデルの増加を短所として併せて述べた。
出典
- integrating netflixs foundation model into personalization applicationsnetflixtechblog.medium.com, 確認
公開資料をまとめた事例です。ATF Works導入企業の成果ではありません。