RARE: Retrieval-Augmented Reasoning Modeling

RARE는 동적으로 검색된 외부 정보로 추론하도록 모델을 학습시켜 지식 저장과 추론 최적화를 분리하는 대규모 언어 모델 패러다임을 제시한다.

RARE는 동적으로 검색된 외부 정보로 추론하도록 모델을 학습시켜 지식 저장과 추론 최적화를 분리하는 대규모 언어 모델 패러다임을 제시한다. 이 접근은 경량 모델이 도메인 특화 벤치마크에서 최신 수준의 정확도를 달성하게 하며, 종종 훨씬 큰 검색 증강 모델을 능가하는 동시에 효율성과 견고성도 개선한다.

핵심 요약

• 대규모 언어 모델(LLM)은 전문 도메인에서 지식 환각과 불충분한 추론 능력을 보인다.
• 검색 증강 생성(RAG) 같은 기존 접근은 주로 추론 시점에 지식을 보충할 뿐, 학습 중 도메인 특화 추론의 체계적 학습은 소홀히 한다.
• 도메인 지식을 위한 기존의 파인튜닝이나 사전 학습은 비용이 크고 지식 얽힘을 초래하며, 파라미터 예산 제약 때문에 환각에 취약하다.
• 도메인 지식을 검색 가능한 출처로 외부화하고 도메인 특화 추론 패턴을 LLM 내부에 내재화한다.
• 교사 모델을 활용해 검색된 지식을 포함한 고품질의 단계별 추론 응답을 증류한다.
• 검색된 지식을 프롬프트에 주입하는 마스킹 손실 목적함수를 사용해 경량 학생 모델을 학습시켜, 모델이 제공된 정보를 통합하고 그것으로 추론하는 데 집중하도록 강제한다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.