LaRec: Unleashing LLM-based Latent Reasoning for Generative Recommendation

긴 텍스트 추론 대신 잠재 공간 추론을 써서 추천 정확도와 응답 속도를 함께 잡은 LLM 추천 연구다.

LaRec는 LLM 추천에서 긴 사고사슬 대신 잠재 공간에서 생각하는 잠재 추론을 쓴다. 잠재 추론의 두 약점인 세밀한 지도신호 부족과 단일 경로 문제를, 단계별 지도신호를 주는 잠재 사전학습과 사용자별 분포로 탐색하는 개인화 강화학습으로 푼다. 여러 데이터셋에서 기존 방법을 크게 앞서면서도 무추론과 비슷한 낮은 지연을 유지한다. 실제 광고 플랫폼 A/B 테스트에서 전환 2.93% 등 개선을 확인했다.

핵심 요약

• 긴 텍스트 추론 대신 잠재 공간에서 생각하는 잠재 추론으로 응답 지연을 크게 줄였다.
• 잠재 사전학습에서 단계별 정렬과 과정 방향 정렬로 중간 추론 단계에 지도신호를 준다.
• 사용자별 가우시안 혼합 분포로 추론 시작점을 뽑아 사용자 관련 공간 안에서 탐색한다.
• GRPO와 희소 적중 보상 더하기 밀집 의미 유사도 보상으로 추론을 추천 목표에 정렬한다.
• 잠재 추론 지연은 무추론과 거의 같고 사고사슬보다 훨씬 낮다.
• 실제 광고 플랫폼 온라인 A/B 테스트에서 전환 2.93% 등 개선을 기록했다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.