MLEvolve: A Self-Evolving Framework for Automated Machine Learning Algorithm Discovery

LLM 에이전트로 머신러닝 알고리즘을 자동 발견하는 다중 에이전트 자가진화 프레임워크다.

MLEvolve는 LLM 기반 자가진화 다중 에이전트 프레임워크로, end-to-end 머신러닝 알고리즘 발견을 수행한다. 트리 탐색을 Progressive MCGS로 확장해 그래프 기반 참조 간선으로 브랜치 간 정보 흐름을 가능케 하고, 엔트로피 기반 점진적 스케줄로 탐색에서 활용으로 전환한다. Retrospective Memory로 도메인 지식과 태스크별 경험을 축적하고, 전략 기획과 코드 생성을 분리하는 적응적 코딩 모드로 장기 반복의 안정성을 확보한다. MLE-Bench에서 SOTA를 달성하고, AlphaEvolve를 수학 알고리즘 최적화에서 능가한다.

핵심 요약

• Progressive MCGS로 브랜치 간 정보 흐름을 가능케 해 기존 트리 탐색의 고립 문제를 해결한다.
• Retrospective Memory로 도메인 지식과 태스크 경험을 동시에 활용한다.
• 전략 기획과 코드 생성을 분리하는 적응적 코딩 모드로 장기 반복의 안정성을 확보한다.
• MLE-Bench에서 12시간(표준의 절반) 예산으로 평균 메달률과 유효 제출률 SOTA를 달성한다.
• AlphaEvolve를 수학 알고리즘 최적화에서 능가하며 강한 교차 도메인 일반화를 보여준다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.