NanoResearch: Co-Evolving Skills, Memory, and Policy for Personalized Research Automation

이 논문은 자동 연구 시스템이 사용자마다 다른 자원과 선호와 상관없이 거의 같은 결과를 내는 문제를, 재사용 skill bank, 사용자와 프로젝트별 memory, 자연어 feedback으로 학습하는 planner를 함께 키우는 multi-agent framework NanoResearch로 풀었다.

이 논문은 한마디로 연구 주제와 user profile을 받아 아이디어, 실험, 논문까지 만드는 multi-agent 연구 자동화 system이 skill, memory, planner policy를 사용자에 맞춰 함께 키우게 한 연구다. Orchestrator(전체를 조율하는 agent)는 단계마다 Skill Bank와 Memory Module에서 관련 항목을 찾아 계획을 세우고 단계가 끝나면 두 저장소를 갱신하며, 사용자의 자연어 feedback은 SDPO(Self-Distillation Policy Optimization)로 Qwen3-8B planner의 parameter에 반영한다. Claude가 만든 7개 분야 20개 과제에서 NanoResearch는 Round 1부터 네 baseline보다 모든 지표가 높았고, Round 3에서 사용자 요구 부합 점수(Compliance)는 8.963, 주제당 총비용은 $1.430이었다. 과제와 사용자 역할의 feedback은 모두 Claude가 만들었고, 사람 평가는 박사 연구자 3명 규모다.

핵심 요약

• 문제: The AI Scientist나 EvoScientist 같은 자동 연구 시스템은 연구 전 과정을 수행하지만, 저자들은 이 시스템들이 사용자마다 다른 자원, 방법론 선호, 목표 형식과 무관하게 거의 같은 결과를 내는 균일한 pipeline이라고 본다. 저자들이 꼽은 부족한 능력은 세 가지다. 실행마다 처음부터 시작해 같은 debugging 패턴을 되풀이하고, 세션이 끝나면 과거 가설과 검증한 설정과 추론한 자원 제약이 버려지며, '더 단순한 방법 선호' 같은 암묵적 선호는 규칙으로 쓰기에 흐릿하고 memory 항목으로 압축하면 사라진다.
• 입력과 출력: 이 논문은 구현과 실험을 갖춘 system 논문이다. NanoResearch는 사용자가 정한 연구 주제와 대화형 질문으로 만든 user profile(선호, 계산 예산, 목표 학회 양식 등)을 받아 아이디어 생성과 계획, 실험 검증, 논문 작성과 review의 세 단계를 거쳐 LaTeX 논문 한 편을 낸다. 사용자는 단계마다 끝에 자연어 feedback을 주고, Orchestrator는 작업 전마다 Skill Bank와 Memory Module에서 관련 항목을 찾고 작업 뒤에 두 저장소를 갱신한다.
• 방법: 1단계는 학술 database(예: arXiv, Semantic Scholar)에서 논문을 찾아 성능 수치를 직접 뽑고, ReAct(추론과 행동을 번갈아 하는 방식) loop로 가설을 낸 뒤 novelty 검사로 고른 가설을 dataset, baseline, 지표, ablation을 담은 JSON 실험 blueprint로 바꾸며, 내부 LLM reviewer의 비판으로 blueprint를 고친다. 2단계는 code를 만들어 SLURM(cluster 작업 scheduler) 같은 환경에 올리고 실행이 성공하거나 재시도 한도에 닿을 때까지 자동으로 debugging한 뒤 결과를 분석하며, 3단계는 원고를 section별로 쓰고 skill과 memory 검색 없이 동작하는 Review agent가 미리 정한 품질 threshold를 넘을 때까지 고친다. 단계가 끝날 때마다 Orchestrator는 일반 규칙을 Skill Bank에, 프로젝트별 경험을 Memory Module에 넣고, 사용자 feedback은 SDPO(feedback을 본 같은 모델을 teacher로 삼아 reward model 없이 token 단위 학습 신호를 만드는 방법)로 planner 모델의 parameter에 반영한다.
• 구현: 문헌 검색은 OpenAlex API로 하고, 학습하는 부분은 Orchestrator의 planner(Qwen3-8B) 하나다. 나머지 agent는 아이디어 생성, 계획, 환경 준비와 실행에 DeepSeek-V3.2, coding과 debugging에 GPT-5.3-Codex, 글쓰기와 그림 prompt와 code 생성에 Claude Sonnet 4.6, 그림 생성에 Gemini 3.1 Flash, review에 Gemini 3.1 Flash Lite, 수정에 Gemini 3 Pro를 쓴다. 공식 저장소(OpenRaiser/NanoResearch)의 README는 아이디어 생성부터 review까지 9단계 pipeline, 로컬 GPU나 SLURM 실행, user profile과 skill과 memory를 갱신하는 evo pipeline, evo 실행에서 모은 (x, y, feedback) triple로 SDPO용 LoRA(Low-Rank Adaptation, 작은 low-rank 행렬을 더해 학습하는 방법) adapter를 학습하는 ram-train 명령, Claude Code와 Codex 연동을 설명하고, 로드맵에는 benchmark 평가 suite가 남은 항목으로 있다.
• 결과: Claude가 만든 7개 분야 20개 과제와 simulated 연구자 20명으로 평가하자, Round 1의 NanoResearch는 Compliance 8.163, E2E(pipeline을 끝까지 마친 실행 비율) 1.000, Perf.(만든 method의 과제 정확도 평균) 0.6844로 네 baseline(AI-Researcher, DeepScientist, EvoScientist, AI Scientist-v2)보다 모든 지표가 높았고, baseline의 E2E는 0.500에서 0.900이었다. Round 3에서는 Compliance 8.963, Innovation(기존 연구 대비 아이디어의 독창성) 5.645, Perf. 0.7548로 올랐고, 주제당 총비용은 $1.430으로 AI Scientist-v2의 $6.039와 EvoScientist의 $2.944보다 낮았다. 박사 연구자 3명이 자기 과제 3개로 평가한 실험에서는 Perf.가 Round 1의 0.6466에서 Round 3의 0.8603으로 올랐다.
• 한계: 평가는 code와 글로 결과를 완성할 수 있는 AI와 ML 과제에 집중했고, 저자들은 물리 실험과 장비 제어가 드는 생물, 화학, 물리 분야로 넓히는 일을 향후 과제로 남겼다. simulated 평가의 20개 과제와 사용자 역할 feedback은 모두 Claude가 만들었고, Compliance, Innovation, Expression(논문 글 품질) 같은 주관 점수는 LLM judge가 매겼으며, 사람 평가는 박사 연구자 3명의 과제 3개 규모다. 사람 평가에서 Round 1의 Perf. 0.6466은 EvoScientist의 0.6537보다 낮았고, Innovation과 Expression은 Round 2보다 Round 3에서 조금 내려갔다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.