Permissive Safety Through Trusted Inference: Verifiable Belief-Space Neural Safety Filters for Assured Interactive Robotics

사람과 상호작용하는 자율 로봇은 선호, 목표, 역량, 협력 의지 등 인간에서 비롯된 불확실성 하에서 안전하고 효율적인 결정을 내려야 한다.

사람과 상호작용하는 로봇은 상대의 목표와 협력 의지를 확실히 알 수 없어, 지나치게 보수적이지 않으면서도 안전을 보장하기 어렵다. 이 연구는 로봇이 실행 중에 사람을 추론하며 불확실성을 줄이는 신념 공간 안전 필터를 컨포멀 예측으로 인증한다. 전체 상황을 한꺼번에 검증하는 대신 추론이 믿을 만하다고 예상되는 영역에 검증과 필터 사용을 집중해 드문 추론 실패 때문에 모든 행동이 막히는 것을 줄인다. 모의 차량-보행자 상호작용에서 표준 컨포멀 예측 기준보다 같은 안전 집합 수준에서 더 많은 행동을 허용하고 온라인 거부율도 낮췄다. 다만 보장은 최악의 경우가 아니라 자료 분포에 대한 것이며, 추론 점수가 부정확하거나 상호작용으로 분포가 바뀌면 보수적인 보조 필터가 필요하다.

핵심 요약

• 이 논문은 로봇의 런타임 추론 모듈의 신뢰성을 명시적으로 고려하면서, 컨포멀 예측을 사용하여 BeliefSF의 고확률 안전성을 인증하는 알고리즘적 접근법을 제안한다.
• 이 방법은 추론이 신뢰할 만하다고 기대되는 영역에 검증을 집중함으로써 신념 공간 안전 필터링의 구조를 활용한다.
• 시뮬레이션된 인간-차량 상호작용 벤치마크를 통해, 이 접근법이 표준 컨포멀 예측 기준선보다 훨씬 더 관대한 신념 공간 안전 필터를 검증함을 보여준다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.