Harnessing the Reasoning Economy: A Survey of Efficient Reasoning for Large Language Models

CUHK 및 협력 기관 연구진의 종합 서베이는 대규모 언어 모델에서 '추론 경제'라는 개념을 정립한다. 모델의 행동과 사용에서 나타나는 비효율을 검토하고, 사후 학습 및 테스트 시점 응용 전반에 걸쳐 추론 성능과 계산 비용 사이의 균형을 최적화하는 프레임워크를 제공한다.

CUHK 및 협력 기관 연구진의 종합 서베이는 대규모 언어 모델에서 '추론 경제'라는 개념을 정립한다. 모델의 행동과 사용에서 나타나는 비효율을 검토하고, 사후 학습 및 테스트 시점 응용 전반에 걸쳐 추론 성능과 계산 비용 사이의 균형을 최적화하는 프레임워크를 제공한다.

핵심 요약

• 현재의 LLM은 과도한 계산과 불필요한 사고 같은 비효율적인 추론 행동을 보인다.
• 추론 능력과 계산 비용 사이의 트레이드오프를 최적화하는 방법에 대한 체계적 이해가 부족하다.
• 추론 비효율과 잠재적 해결책을 분류하는 구조화된 프레임워크를 개발한다.
• 최적화 접근법을 행동 규제(사후 학습)와 사용 개선(테스트 시점)으로 분류한다.
• 추론 비효율은 모델 행동(길이 편향, 기만적 사고)과 모델 사용(부적절한 알고리즘 선택, 계산 자원 할당) 양쪽에서 비롯된다.
• 해결책은 사후 학습 측면(데이터 품질, 구조)과 테스트 시점 전략(예산 할당, 적응형 디코딩)을 모두 다루어야 한다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.