零售 / 在线生鲜杂货
Instacart：解析搜索意图与商品属性
- 企业
- Instacart
- 国家
- 美国
- 实施阶段
- 运营中
- 资料发布
- 日期依据
- 资料发布的时间，可能与启用日期不同。
- 依据核验方式
- 阅读原文正文
业务问题
Instacart的搜索框里输入的往往是未经打磨的说法。过去公司为每项任务分别构建不同模型：查询分类由FastText模型负责，查询改写由另一套挖掘用户会话记录的系统负责。改写系统只覆盖50%的搜索流量，对生僻搜索词也给不出可用的替代方案。
使用的技术与数据
公司以LLM为中心重构了查询理解。高频搜索词在离线处理，采用把转化历史中的头部品牌与类目、商品目录中的品牌名相似度放进prompt的RAG方式。结果既写入缓存，也同时作为实时模型的训练素材。缓存中没有的生僻搜索词交给实时模型处理，该模型是用LoRA继续训练的Llama-3-8B。输出由后处理模块检查：计算查询与预测类目的嵌入相似度，低于阈值则丢弃，并与商品目录交叉核对。
成果
Instacart表示，改写覆盖率超过95%，三种类型的精确率都在90%以上。继续训练的8B模型精确率为96.4%，高于基线模型的95.4%；F1为95.7%，与95.8%接近。延迟在A100上接近700ms，把LoRA权重合并进主模型并换用H100后达到了300ms的目标。公司称，这套体系已经在运行，每周处理数百万条新搜索词。公司说明，长尾搜索词结果的不满减少了50%，平均滚动深度减少了6%。
局限与待解问题
公开的指标仅限于搜索质量和延迟。原文中没有显示由此带来订单或销售变化的数字。
来源
- Building The Intent Engine: How Instacart is Revamping Query Understanding with LLMs | Instacartcompany.instacart.com, 查阅
本案例根据公开资料整理，并非 ATF Works 客户的成果。