専門サービス / 採用プラットフォーム
LinkedIn：求人情報と履歴書の意味に基づく推薦
- 企業
- 国
- 米国
- 導入状況
- 運用中
- 資料公開
- 日付の基準
- 資料が公開された時点。導入を開始した日とは異なる場合がある。
- 根拠の確認方法
- 原文の本文を閲覧
業務課題
LinkedInは、10億人を超える会員と数千万件の求人情報をつなぐ推薦において、従来の埋め込み基盤であるPensieveの限界に直面した。同社は、Pensieveが小さく精度の劣るモデルに依存しており、手作業では維持しにくい分類体系と、変更しづらい上流の処理の流れに縛られていたと説明した。とはいえ大規模言語モデルをそのまま配信経路に入れると、計算費用が大きくなり、配備の流れが複雑になり、業務データに合わせ続ける負担も生じると述べた。
使った技術とデータ
同社はJUDEを作り、実際のサービスに投入した。求人情報、会員プロフィール、履歴書を同じ空間の埋め込みに変換する社内プラットフォームである。共通の基盤モデル1つに入力の種類ごとのprompt書式を組み合わせ、two tower方式で微調整した。まず関連性のラベルで学習し、その後は実際の応募記録で学習を続けた。LoRA、Flash Attention 2、bfloat16、DeepSpeed ZeROを用いて複数のH100で回した。配信側はLambda構成からKappa構成へ移した。Kafkaの変更ストリームで変わった項目だけを選んで再計算し、結果をVeniceのキーバリュー保存基盤に入れてオンラインで読み出す。モデルはKubernetesのGPU pod上でgRPCサービスとして稼働させた。
成果
LinkedInは、この埋め込みを求人推薦と求人検索の二次順位付けモデルの双方に組み込み、従来重複していた標準特徴量を置き換え、配信量を段階的に増やしたと述べた。オンラインのA/B試験では、適格応募が2.07%増え、求人を退けた回数と応募回数の比が5.13%減り、応募件数の合計が1.91%増えたと説明した。同社は、その半年間で単一モデルの変更から得られた最大の改善幅だったと付け加えた。費用面では、変わった項目だけを再計算する方式で推論費用を最大3倍削減し、ハッシュ化と重複排除によって初期投入時の推論量を約6倍減らした。70億規模のモデルでも応答時間は95パーセンタイルで300ミリ秒未満に保った。
限界と残る課題
原文は同社自身が書いたエンジニアリングブログであり、使用した基盤モデルの名称と規模を正確には示していない。A/B試験をいつ、どれだけの期間、どれだけの規模で実施したのかも記載がない。指標は相対的な変化率のみで、絶対値がない。導入を開始した月を示していないため、記事の掲載日で並べている。過去の記録では原文を確認できていない候補であり、今回の調査で原文を読み、根拠確認済みへ移した。
出典
公開資料をまとめた事例です。ATF Works導入企業の成果ではありません。