メディアとコンテンツ / オンライン広告
Meta：広告推薦モデルの高度化
- 企業
- Meta
- 国
- 米国
- 導入状況
- 運用中
- 資料公開
- 日付の基準
- 資料が公開された時点。導入を開始した日とは異なる場合がある。
- 根拠の確認方法
- 原文の本文を閲覧
業務課題
Metaのアプリでは、一日に数十億件の利用者と広告の間の反応が積み上がる。そのうちクリックや転換のような意味のある信号はまれである。広告主の目標、素材の形式、測定の信号、利用者の行動のように性格の違う資料を一度に扱わなければならない。従来の方式は長い行動の記録を短いベクトルに圧縮する途中で、重要な信号を失った。
使った技術とデータ
GEMは広告の推薦のための基盤モデルである。LLMのやり方で設計し、数千個のGPUで学習した。学習の資料は広告のコンテンツと利用者の反応の記録で、広告だけでなく一般の投稿への反応も併せて使う。特徴は、順序のある行動の記録と順序のない属性に分ける。それぞれに合わせたattentionを適用し、二つの群の間の関係も併せて学習する。学習が終わると、知識を下位のモデルへ移す。GEMが主要なモデルに直接渡すこともあれば、領域ごとの基盤モデルを経て渡すこともある。蒸留では、Student Adapterが最新の実際の結果で教師モデルの出力を補正する。
成果
Metaは、GEMを今年の初めに出し、FacebookとInstagramに適用したと述べた。その結果、第2四半期にInstagramの広告の転換が5%、Facebook Feedの広告の転換が3%増えたと発表した。同社は、新しい構造が従来の広告の順位付けのモデルより、同じ資料と演算で4倍の効率だと説明した。知識の伝達の方式は通常の蒸留の2倍の効果だと述べた。第3四半期には構造を直し、同じ資料と演算から得る性能の利得を二倍に増やしたと記した。
限界と残る課題
転換の増加率はMetaが示した自社の評価である。広告の素材を自動で作る事例とは異なり、売上や純利益の増加率でもない。
出典
公開資料をまとめた事例です。ATF Works導入企業の成果ではありません。