RecGPT-V3 Technical Report

타오바오에 실배포된 추천 시스템으로, 사용자 기억을 누적 관리하고 잠재 토큰으로 추론 비용을 200배 줄인 LLM 추천 에이전트다.

이 논문은 한마디로 LLM 기반 추천 시스템의 3세대 버전으로, 상태 기반 메모리와 잠재 추론을 결합해 정확도와 효율을 동시에 잡았다. Memory Hub가 사용자 행동 이력을 요약해 55.8% 계산을 줄이고, Latent Intent Reasoning은 긴 사고 사슬을 200배 적은 토큰으로 압축한다. 타오바오 메인 피드에 배포되어 GMV +3.97%, GPU 비용 52.4% 절감을 달성했다.

핵심 요약

• Memory Hub가 사용자 행동 이력을 94.5% 압축된 메모리 단위로 관리해 매 요청마다 전체 이력을 재처리하지 않는다.
• Semantic ID를 LLM이 직접 추론하는 하이브리드 모달 모델로 태그-아이템 정보 병목을 해결했다.
• 잠재 CoT 토큰으로 3000토큰 추론을 15토큰으로 압축(200배 절감)하면서도 필요 시 복원 가능하다.
• 실배포 A/B 테스트에서 IPV +1.28%, CTR +1.00%, GMV +3.97%, GPU 비용 52.4% 절감했다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.