零售 / 二手交易平台
Leboncoin：内部知识检索助手Ada
- 企业
- Leboncoin
- 国家
- 法国
- 实施阶段
- 决定终止
- 资料发布
- 日期依据
- 资料发布的时间，可能与启用日期不同。
- 依据核验方式
- 通过搜索工具的正文摘录核验
业务问题
leboncoin在2023年遇到过内部资料通过公开LLM服务外泄的事故。公司想试用LLM，但首先需要一个能保护数据和团队的受控环境。
使用的技术与数据
2023年底，几位机器学习工程师启动了内部聊天机器人Ada。他们最初尝试在AWS上部署Meta Llama 2，但部署复杂、对话质量也差。通过AWS Bedrock接入的Anthropic Claude 2表现更好，于是改变了方向。法务和安全团队确认了数据不会离开AWS、也不会被用于模型再训练这两项条件。从2024年年中起，团队构建了连接内部知识的专用assistant。Confluence和Lumapps文档被切分成embedding，在Postgres向量数据库中做语义检索。Backstage此前已用OpenSearch建好索引，因此直接沿用其检索API。政策文档和组织架构图则把整篇文档放进模型的context。
成果
在Backstage的assistant中加入英文关键词改写器后，context relevance从0.63升到0.73，在70%的情况下返回了正确的来源链接。在内容审核assistant中，基于规则的改写器把correctness提高了10%，基于LLM的改写器只提高了3到4%。不过，各团队都想要自己的assistant，几位工程师难以承担。leboncoin在2025年第一季度结束前后停用了Ada，决定把新的内部assistant放到OpenAI平台上。
局限与待解问题
这是权衡自建运维的技术负担和运营负担后作出的决定。原文未披露Ada的用户数量或节省金额。
来源
本案例根据公开资料整理，并非 ATF Works 客户的成果。