LECTOR: Joint Optimization of Scientific Reasoning Graphs and Introduction Generation

이 논문은 AI가 쓴 논문 Introduction의 citation hallucination(없는 인용을 지어내는 문제)과 논리 불일치를, 본문에서 reasoning logic graph를 먼저 뽑고 그 graph와 글을 함께 보상하는 RL로 풀었다.

이 논문은 한마디로 논문 본문에서 reasoning logic graph를 먼저 뽑고 그 graph로 Introduction을 쓰게 하는 4B 모델 RL 학습법 LECTOR와, 본문 기반 Introduction 생성 과제 CCIG(Content-Conditional Introduction Generation)를 제안한 방법 논문이다. 같은 모델이 한 rollout 안에서 연역, 귀납, 귀추 edge로 된 graph를 만들고 CARS(Create A Research Space) 구조로 글을 쓰며, graph의 타당성과 충실도, 원문과의 일치, 학술 글 품질, 인용 정합을 각각 재는 다섯 항목 reward로 학습한다. Nature Communications의 물리 관련 여러 분야 논문 10,200편으로 만든 dataset에서 Qwen3-4B 기반 LECTOR의 Overall Performance는 0.510에서 0.665로 올라 GPT-o3(0.656)와 비슷해졌다. 전문가 8명의 사람 평가에서도 종합 점수 3.73으로 GPT-o3의 3.71과 비슷했다.

핵심 요약

• 문제: AI 보조 글쓰기 방법 대부분은 일반 LLM용 prompt를 설계하는 식으로 Introduction 작성을 문장 생성 문제로 다뤄, 없는 논문을 인용하거나 저자를 틀리는 citation hallucination과 Introduction과 Results, Methodology 사이의 논리 불일치가 생긴다. 기존 Introduction 생성 과제(SciIG 등)는 제목, 초록, 인용을 입력으로 쓰는데, 저자들은 이 설정이 세부 내용에서 Introduction을 요약하는 실제 글쓰기와 어긋난다고 보았다.
• 입력과 출력: 이 논문은 새 과제 CCIG(Content-Conditional Introduction Generation), RL 학습 방법 LECTOR, 평가 dataset을 함께 제안한 방법 논문이다. 입력은 Introduction을 뺀 논문 본문(Methods, Results, Analyses)과 번호가 붙은 인용 목록이다. 출력은 먼저 뽑은 reasoning logic graph(논문의 추론 구조를 담은 graph)와, 그 graph를 바탕으로 [idx] 형식 인용을 넣어 쓴 Introduction이다.
• 방법: reasoning logic graph는 뿌리가 하나인 방향성 비순환 graph(DAG)로, node는 논문에서 뽑은 완결된 문장 하나이고, edge는 Peirce의 연역, 귀납, 귀추를 나눈 6가지 type이며 결론마다 짝을 이룬 전제 edge 두 개가 들어온다. 같은 모델이 한 rollout 안에서 graph를 뽑고 CARS(Create A Research Space) 구조의 territory, niche, contribution 순서로 Introduction을 쓰며, 두 단계는 weight를 공유한다. 학습은 learned reward model 없이 actor(policy model)와 critic(value model)만 둔 단순화한 PPO(Proximal Policy Optimization)이고, reward는 Graph Validity, Faithfulness, Paper Consistency, Academic Quality, Reference Alignment 다섯 항목의 합이다.
• 구현: backbone은 Qwen3-4B-Instruct-2507이고 RL 학습은 verl-agent 위에서 1 epoch, global batch size 64, learning rate 1×10^-6로 진행하며, reward 계산과 LLM-as-a-judge 평가에는 Qwen3-235B를 쓴다. dataset은 Nature Communications의 물리 관련 여러 분야 논문 10,200편(2010년 4월부터 2025년 3월)을 MinerU로 파싱해 학습 10,000편, 검증 100편, test 100편으로 나눴다. 공식 GitHub 저장소는 RL 학습(verl), reward 계산(agent_system), 평가 pipeline code를 담고, README는 LECTOR-4B checkpoint와 NC_Physics dataset을 Hugging Face에 공개했다고 적는다.
• 결과: test 논문 100편에서 LECTOR의 Overall Performance는 0.665로, base Qwen3-4B(0.510)보다 높고 GPT-o3(0.656)와 비슷했으며 Claude-haiku-4.5(0.612), Grok4(0.599), Gemini-2.5pro(0.566)보다 높았다. Graph Quality는 0.478에서 0.745로, Writing Quality는 0.546에서 0.834로 올랐고, graph 없이 바로 쓰는 One-Step-Baseline보다 Paper Consistency(0.486 대 0.476)와 Citation Quality(0.530 대 0.477)가 높았다. 전문가 8명이 test 논문 20편을 1에서 5점으로 매긴 사람 평가에서 LECTOR 종합 점수 3.73은 GPT-o3의 3.71과 비슷했고, 사람과 LLM 판정의 Spearman 상관은 0.815였다.
• 한계: 데이터는 Nature Communications의 물리 관련 여러 분야 논문이고, reward와 자동 평가의 여러 항목이 Qwen3-235B의 판정에 기댄다. 사람 평가에서 LECTOR는 Writing Quality(3.91 대 4.12)와 Citation Integration(2.99 대 3.51)에서 GPT-o3보다 낮았고, 1위 비율도 40.6%로 GPT-o3의 48.8%보다 낮았다. graph와 글의 정렬을 재는 Graph-Writing Alignment는 RL 뒤 0.682에서 0.623으로 내려갔고, 저자들은 이를 생성 전략의 변화로 추측했다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.