What Does It Take to Be a Good AI Research Agent? Studying the Role of Ideation Diversity

이 논문은 AI research agent의 성공과 실패를 가르는 요인에 대한 이해가 부족한 문제를, MLE-bench(Kaggle 대회로 만든 ML engineering benchmark) 궤적 11,000개 분석과 아이디어 다양성을 prompt로 줄인 통제 실험으로 다뤄, 초기 아이디어가 다양한 agent일수록 성능이 높은 경향이 있고 다양성을 줄이면 성능이 떨어진다는 것을 보였다.

이 논문은 한마디로 AI research agent가 처음 내는 아이디어의 다양성(ideation diversity)이 성능에 영향을 주는지를 대규모 궤적 분석과 통제 실험으로 확인한 empirical study다. 저자들은 6개 LLM backbone과 2개 scaffold(LLM을 감싸 환경과 상호작용하게 하는 바깥 loop)로 MLE-bench 75개 과제를 seed 10에서 20개씩 실행한 궤적 11,000개(GPU 264,000시간)를 모으고, agent가 초기 아이디어에서 쓰려는 모델 architecture 분포의 Shannon entropy를 다양성으로 쟀다. 다양성과 medal rate(medal을 딴 시도 비율)의 상관은 Pearson r 0.57이었고, DeepSeek R1 agent의 system prompt에서 다양성을 높이는 두 지시(아이디어마다 복잡도를 바꾸라는 요구와 다양성 요구)를 빼고 형제 해법 설명을 담는 memory로 비슷한 아이디어를 요구하자 MLE-bench lite 22개 과제의 medal rate가 AIRA(Toledo et al. 2025의 tree 탐색 research agent)의 Greedy 변형은 45.5에서 38.6으로, MCTS(Monte Carlo Tree Search) 변형은 47.0에서 38.6으로 내려갔다. 같은 방향의 차이가 average normalized score(사람 최저와 최고 점수 사이로 정규화한 점수의 평균), percentile(사람 제출 대비 백분위), valid submission rate(유효한 제출을 낸 과제 비율), Elo(agent끼리 맞붙인 결과로 매긴 순위 점수)에서도 나타났다.

핵심 요약

• 문제: AI research agent는 ML 모델의 설계, 구현, 학습을 자동화하지만, 이 분야는 아직 초기 단계라 agent 궤적의 성공과 실패를 가르는 핵심 요인에 대한 이해가 부족하다. 흔히 heuristic 탐색 알고리즘이 이끄는 긴 다단계 궤적과 tool 사용 때문에 오류 분석이 고전적인 ML 설정보다 훨씬 복잡하고, 의미 있는 분석과 설계 ablation에 필요한 표본을 모으는 계산 비용이 지나치게 클 수 있다. 저자들은 ideation diversity가 AI research agent 성능의 핵심 병목이라는 가설에서 출발한다.
• 입력과 출력: 이 논문은 기존 agent의 궤적을 대규모로 분석하고 통제 실험을 한 empirical study다. 입력은 여러 LLM backbone과 scaffold로 MLE-bench 과제를 푼 agent 궤적이고, 출력은 Draft operator(첫 해법 후보들을 만드는 operator)가 만든 초기 아이디어(최대 다섯 개)에서 뽑은 모델 architecture 분포의 Shannon entropy(밑 2)로 잰 다양성 점수, 이 점수와 medal rate 등 성능 지표의 상관, system prompt로 다양성을 바꿨을 때의 성능 차이다.
• 방법: 분석한 scaffold는 AIDE(AI-Driven Exploration, Greedy 정책으로 Python 해법을 tree 탐색하는 agent), AIRA Greedy, AIRA MCTS이고, 셋 모두 Draft, Debug, Improve operator로 Python 해법 node의 tree를 키운다. 통제 실험의 baseline agent(AIRA Greedy, AIRA MCTS)는 기본으로 형제 node의 해법 설명을 context에 넣는 sibling memory, 첫 아이디어에는 최소, 다음 둘에는 중간, 마지막 둘에는 고급 복잡도를 요구하는 prompt-adaptive complexity, system prompt의 다양성 요구라는 세 장치를 갖는다. 다양성을 줄인 agent는 prompt-adaptive complexity와 system prompt의 다양성 요구를 빼고 sibling memory는 system prompt에서 비슷한 아이디어를 요청하는 데 다시 쓰며, 저자들은 prompt의 다양성 관련 부분만 바꿔 구현 품질 같은 다른 면은 그대로 두려 했다.
• 구현: 분석용 backbone은 o3, gpt-oss 20B와 120B, Llama Maverick, Devstral, CWM(Meta가 world model 기반 code 생성 연구용으로 낸 open-weight LLM)이고, 6개 backbone과 2개 scaffold로 MLE-bench 75개 과제를 seed 10에서 20개씩 실행해 궤적 11,000개, 탐색 node 약 1,200,000개, GPU 264,000시간을 썼다. 통제 실험은 전체 크기의 DeepSeek R1으로 MLE-bench lite(22개 과제)에서 AIRA Greedy와 AIRA MCTS를 seed 10개씩 실행했고, 모든 LLM은 128K token context를 썼다. 통제 실험의 오차 막대는 rliable library의 stratified bootstrapping으로 구한 95% 신뢰구간이다.
• 결과: 75개 과제 전체에서 architecture entropy와 medal rate의 상관은 Pearson r 0.57, average normalized score와는 0.72, percentile과는 0.66이었고, o3와 gpt-oss 20B, 120B agent는 초기 아이디어 5개에 평균 3.5개 architecture를, Llama Maverick, Devstral, CWM agent는 평균 2.8개를 썼다. DeepSeek R1 통제 실험에서 다양성을 줄이자 MLE-bench lite medal rate는 AIRA Greedy가 45.5에서 38.6으로(6.9점 하락), AIRA MCTS가 47.0에서 38.6으로(8.4점 하락) 내려갔고, valid submission rate도 98%에서 각각 92%와 90%로 내려갔다. valid submission rate 하락은 주로 두 text normalization 대회(영어, 러시아어)에서 나왔는데, 다양성을 줄인 agent는 이 두 대회에서 같은 T5(text-to-text transformer 모델)를 되풀이해 구현하다 번번이 실패해 timeout이 났고, 저자들은 이 두 대회가 medal rate 하락의 절반가량을 차지한다고 추정했다.
• 한계: 결과는 MLE-bench 하나에서 얻었고, 저자들은 다른 ML 과제로도 일반화될 가능성이 크다는 가설을 두고 다른 benchmark 검토는 향후 과제로 남겼다. medal 기준은 대회 참가 팀 수에 따라 바뀌고, MLE-bench 대회의 약 30%에서 최고 점수와 bronze 기준의 상대 차이가 3% 미만이며, agent는 Kaggle private test set과 다른 custom test set으로 평가되고, 2022년 뒤의 대회에서는 agent 성능이 크게 떨어진다. 저자들은 system prompt를 바꾼 2차 효과를 추적하기 어렵다고 밝혔고, 다양성 장치를 모두 뺀 AIRA Greedy로 temperature를 바꾼 부록 실험에서는 Elo를 뺀 지표(medal rate 포함)에 영향이 없었다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.