Metacognition in LLMs: Foundations, Progress, and Opportunities

LLM의 메타인지(metacognition)에 대한 최초의 종합적 개관 논문. 모니터링과 제어로 구성된 메타인지 루프를 정의하고, 측정 방법·개선 기법·응용·과제를 체계적으로 정리한다.

이 논문은 LLM 메타인지 연구의 최초 종합적 개관으로, 메타인지를 모니터링(불확실성 판단, 과제 성과 평가)과 제어(계획, 전략 선택, 노력 재할당)의 상호작용 루프로 정의한다. 측정 방법(심리학 기반, 신경피드백, 신뢰도, 해석가능성), 메타인지 향상 기법, 추론 모델·에이전트·다중에이전트 시스템에서의 응용, 그리고 개방 과제를 체계적으로 정리한다.

핵심 요약

• 메타인지를 모니터링(상태 평가)과 제어(전략 조정)의 루프로 정의하고 LLM 연구를 분류
• 심리학 기반 측정, 신경피드백, 신뢰도 기반, 해석가능성 기반 등 다양한 메타인지 측정 방법 정리
• 메타인지가 할루시네이션 감소, 신뢰성 향상, 인간-AI 협업 개선에 기여함을 문헌에서 확인
• 추론 모델, 에이전트, 다중에이전트 시스템, 메모리, 검색·도구 사용에서의 메타인지 응용 분석
• 모델 크기·post-training·샘플링 온도가 메타인지 능력에 미치는 영향 체계 정리
• 메타인지 평가의 간격(gap)과 향후 연구 방향(도메인 일반성, 아키텍처 설계 등) 제시

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.