How Far Are AI Scientists from Changing the World?

이 논문은 LLM 기반 AI Scientist 시스템이 큰 과학 발견까지 얼마나 남았는지를, 능력을 네 단계(지식 획득, 아이디어 생성, 검증과 반증, 진화)로 나눈 framework로 기존 연구를 정리하고 AI reviewer 모델로 공개 논문 28편을 채점해 따진 survey다.

이 논문은 한마디로 LLM 기반 AI Scientist 시스템이 어디까지 왔고 무엇이 모자라는지를 네 능력 단계로 나눠 정리한 survey다. 저자들은 지식 획득, 아이디어 생성, 검증과 반증, 진화 단계마다 대표 방법을 정리하고 AI reviewer 시스템을 따로 한 장으로 다뤘으며, 평가 benchmark는 지식 획득, 검증과 반증, AI reviewer 장에 모았다. 저자들이 DeepReviewer-14B로 AI Scientist 시스템 5개의 공개 논문 28편을 채점한 결과 가장 높은 평균 rating이 10점 만점에 4.63이었고, Experimental Weakness(실험의 약점) 결함은 모든 논문에서 나왔다. 저자들은 큰 발견까지 남은 차이의 원인을 기반 LLM의 한계와 연구 능력 부족으로 보고, AI Scientist끼리의 표준 통신 protocol 같은 앞으로의 방향을 제안했다.

핵심 요약

• 문제: LLM 기반 AI Scientist 시스템이 만든 논문이 ICLR(International Conference on Learning Representations) 2025 workshop에 채택될 만큼 성과가 나왔고, 저자들은 이런 시스템이 의학, 에너지, 환경의 큰 과제를 푸는 발견까지 얼마나 남았는지를 묻는다. 저자들은 기존 survey가 LLM 구조, agentic framework, 과학 자동화 tool을 개관했지만 이상적인 AI Scientist로 가는 길을 능력 단계로 그린 roadmap이 여전히 빠져 있다고 보았다.
• 조사 범위: 논문 종류는 LLM 기반 AI Scientist 시스템을 다룬 survey다. 2장에서 6장까지 지식 획득, 아이디어 생성, 검증과 반증, AI reviewer 시스템, 진화를 차례로 다루며 장마다 대표 방법을 정리했고, 평가 benchmark는 2장, 4장(표 2), 5장(표 3)에 모았으며 3장에서는 가설의 평가 기준과 자동 평가, 사람 평가 방식을 정리했다. 7장에서는 한계와 윤리 문제를, 8장에서는 AI Scientist끼리 정해진 형식으로 주고받는 표준 통신 protocol SSCP(Scientist-to-Scientist Communication Protocols) 같은 앞으로의 방향을 다뤘다.
• 분류: 저자들은 성숙한 AI Scientist의 능력을 네 단계로 나눴다. Level 1 지식 획득은 기존 연구에서 과학 지식을 찾고 읽고 이해하는 능력, Level 2 아이디어 생성은 새롭고 실현 가능한 가설을 대량으로 내는 능력, Level 3 검증과 반증은 실험을 설계, 구현, 분석해 가설을 시험하고 반증할 수도 있는 능력, Level 4 진화는 내부와 외부 feedback으로 연구 능력 전체를 계속 높이는 능력이다. 저자들은 Level 2를 AI Scientist 시스템과 자동화된 과학 tool을 가르는 핵심 특징으로 보았다.
• 저장소: 논문 첫 쪽에 적은 GitHub 저장소 Awesome-AI-Scientist는 논문, open source tool, benchmark 목록을 README에 모은 저장소이고, 맨 위에는 README.md, 기여 안내 CONTRIBUTING.md, 그림 폴더 img 등이 있다. README는 목록을 이 survey와 같은 장 이름(Knowledge Acquisition, Idea Generation, Verification and Falsification, Review System, Evolution)으로 나누고 논문마다 원문과 관련 코드 링크를 달며 공개된 리뷰가 있으면 그 리뷰 링크도 단다고 밝혔다. 공개 리뷰가 없는 일부 논문에는 자신들의 DeepReviewer로 만든 AI 리뷰 링크를 붙였다고 README에 적었다.
• 근거: 최신 LLM의 구현 benchmark 정확도가 비교적 낮다는 것을 보이려고 저자들이 다른 논문에서 모은 표에서 OpenAI o1-preview의 MLE-Bench 메달 수준 성공률은 16.90%, o1-high의 PaperBench 논문 재현 점수는 26.00%, Claude-Sonnet-3.7의 SciReplicate-Bench 실행 정확도는 39.00%였다. 저자들이 AI reviewer 모델 DeepReviewer-14B로 AI Scientist 시스템 5개가 공개한 논문 28편을 채점하니, 가장 높은 Zochi의 평균 rating이 10점 만점에 4.63에 그쳤다. 결함 분류에서 'Experimental Weakness'는 28편 모두(100%)에서, 'Methodological Unclarity/Flaws'는 96.4%에서 나왔다.
• 한계: 저자들은 남은 차이의 원인으로 기반 LLM의 hallucination(그럴듯하지만 거짓인 내용을 만드는 현상), 지식 갱신의 높은 비용과 비효율, catastrophic forgetting(새 데이터로 학습할 때 전에 익힌 정보를 잃는 현상)과, 실현 가능성이 낮은 가설 생성이나 잘못된 검증 방법 같은 연구 능력의 부족을 들었다. 채점한 논문은 각 시스템이 공개한 것이라 골라 낸 결과일 수 있어 평소 출력과 다를 수 있다고 저자들은 표 주석에 적었다. 점수는 DeepReviewer-14B 한 모델이 매긴 값이고, Zochi는 2편, AI Scientist-v2는 3편으로 낸 평균이다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.