配達とモビリティ / 配車と配達

Uber:フードデリバリー検索の高度化

企業
Uber
国
米国
導入状況
運用中
資料公開
日付の基準
資料が公開された時点。導入を開始した日とは異なる場合がある。
根拠の確認方法
原文の本文を閲覧

業務課題

Uber Eatsでは検索が注文へ向かう主な通路である。文字を突き合わせる従来のやり方は、同じ意味の別の言い方、打ち間違い、略語、複数の言語が混ざった問い合わせ、意味が複数ある語で崩れる。原文は、文字に基づく方法は文字列を見るだけで意味を見ないと記した。そこで、問い合わせと文書をベクトルに変えて意味で探す構造が必要になった。

使った技術とデータ

問い合わせと文書を別々に符号化するtwo tower構造である。問い合わせの埋め込みはオンラインの仕組みが実時間で作り、文書の埋め込みは予定されたbatchの処理があらかじめ作る。土台のモデルはQwen系で、Uber Eatsの内部データで追加学習した。一つのモデルがすべての業種と市場をまとめて担う。MRLに基づくinfoNCE損失で学習するため、一つのモデルが複数の大きさの埋め込みを出す。索引はApache Lucene PlusのHNSWグラフで、float32とint8のベクトルを一緒に持つ。地域、都市、文書の種類、配送の方式といった条件で先に絞り込み、そのあと近似最近傍の探索を走らせる。2週間ごとに学習と索引の作り直しを行い、索引を別に持たず、一つの索引の中で列の単位でblueとgreenを入れ替える。配備の前には、文書数の突き合わせ、変わってはならない列のバイト単位の一致、実際の問い合わせを再生して得た再現率の比較を通過しなければならない。運用中は標本の要求で、問い合わせのモデルと索引の列のモデル番号が合っているかを確認し、食い違いが続けばモデルの配備を自動で戻す。

成果

原文は、断片ごとの候補数を1,200から200程度へ下げることで遅延を34%減らし、CPUを17%節約し、再現率への影響はほとんどなかったと述べた。int7のスカラー量子化はfp32に比べて遅延を50%を超えて減らしながら、再現率を0.95以上に保った。埋め込みを256次元に切り詰めると、英語とスペイン語で品質の損失は0.3%未満で、保存容量は約50%減った。同社は、この構造が飲食店、食料品、小売の検索をまとめて担い、予定された更新が実際の利用者の要求を止めずに走ると述べた。

限界と残る課題

原文には、実際の利用者を分けて比べた実験の結果がない。注文の転換やクリックの変化といった事業の指標は明らかにしていない。示された数値は、オフラインの評価と基盤の性能の測定値である。導入を始めた時期も原文にない。

出典

公開資料をまとめた事例です。ATF Works導入企業の成果ではありません。

原文を読む (新しいタブで開きます)