Contrastive Discovery: Open-Ended Scientific Discovery over Competing Explanations
이 논문은 과학 발견 에이전트가 가설 하나만 검증하는 대신, 한 질문에 대한 경쟁 설명 여러 개를 묶은 대비 집합을 써서 같은 증거로 더 많은 질문을 해결하게 만드는 문제다.
이 논문은 한마디로 증거가 가설을 기각할 때 어느 대안이 더 지지받는지 밝히기 위해, 상호 배타적 경쟁 설명의 집합을 발견의 단위로 삼는 방법이다. 저자들은 대비 집합(contrast set)으로 증거가 믿음을 어떻게 재분배하는지 점수를 매기고, 믿음이 한 설명에 모이면 질문이 해결된 것으로 본다. 여섯 도메인 실험에서 같은 증거로 점별 방식이 놓치는 대안들을 대부분 해결했고, 같은 실험 예산에서 훨씬 많은 질문을 해결했다. 눈가림 전문가 평가에서도 시스템이 고른 설명에 사람 전문가들이 대체로 동의했다.
- 연구진은 하나의 과학 질문에 대해 서로 배타적이고 합쳐서 모든 경우를 덮는 경쟁 설명들을 묶은 대비 집합을 발견의 단위로 제안했다.
- 점별 방식의 상위 후보 89%는 기각이었는데, 같은 증거를 대비 집합으로 다시 평가하자 이 후보들의 73%가 특정 대안으로 해결되었다.
- 대비 집합으로 탐색을 이끌면 같은 실험 예산에서 점별 방식보다 67% 더 많은 질문을 해결했고, K=200에서 평균 161.9개 대 97.2개였다.
- 눈가림 평가에서 38명의 사람 전문가가 해결된 질문의 78%에서 시스템과 같은 설명을 골랐다.
- 이득의 대부분은 교정 해결에서 나왔는데, 이는 증거가 사전 최다 득표 설명 대신 다른 설명으로 지지를 옮긴 경우다.
- 저자는 실험이 표 형태 관측 데이터와 gpt-4o 하나를 썼고, 이런 데이터에서 해결은 인과가 아니라 통계적 발견이라는 한계를 적었다.