Amortized Bayesian Experimental Design with In-Context Knowledge Conditioning

이 논문은 상황지급 베이지안 실험설계에 배포 시점의 외부 지식을 넣는 통로와 신뢰도 필터를 더한 IMBUE 프레임워크를 제안한다.

이 논문은 한마디로 아몰타이즈드 베이지안 실험설계 정책이 학습 없이도 사용자 사전지식과 이전 실험 관찰을 받아들이게 만든 연구다. IMBUE는 두 종류 외부 지식을 토큰으로 넣어 하나의 트랜스포머가 문맥 안에서 처리하고, 배운 신뢰도 필터가 관찰과 어긋나는 토큰을 걸러낸다. 네 벤치마크에서 외부 지식이 믿을 만하면 초기 정보 획득이 빨라지고, 그렇지 않으면 외부 입력 없는 기준선 근처를 유지했다. 단순 이어붙이기는 정보가 유용해도 성능을 떨어뜨리는 실패 양상도 확인됐다.

핵심 요약

• IMBUE는 사용자가 정한 사전지식과 이전 실험 관찰이라는 두 형태의 외부 지식을 추가 입력 토큰으로 넣어 재학습 없이 받아들이게 했다.
• 배운 신뢰도 필터가 각 외부 토큰을 현재 관찰과 비교해 점수를 매기고, 기준값 0.5 이하인 토큰은 계산에서 제외했다.
• 단순 이어붙이기 기준선은 이전 사례를 배포 시점에만 넣으면 오히려 기준 정책보다 성적이 떨어졌다.
• CES 작업에서 관련 사례 K=5를 받은 IMBUE는 sPCE 13.93을 얻었고, 무관 사례에서도 13.14로 K=0 성적 13.46 근처를 유지했다.
• Location Finding에서 강한 사전지식을 받으면 ALINE과 같은 최종 성적에 몇 단계 먼저 도달했다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.