Living constitutions: Participatory alignment for sovereign foundation models
- 발행일
- 출처
- arXiv
- 논문 번호
- 1487
- 분야
- AI / General
- arXiv 번호
- 2611.13402
이 논문은 주권 기반모델의 헌법을 시민과학처럼 참여적으로 계속 다듬는 '살아있는 헌법' 절차를 제안하고 악의 참여자에 대한 강건성을 시뮬레이션으로 확인했다.
이 논문은 한마디로 AI 헌법 만들기를 반복적이고 참여적인 과정으로 설계한 뒤, 에이전트 기반 모델링으로 그 강건성을 시험한 연구다. 저자들은 반복적, 모듈적, 정당화 가능, 위치적, 정당성의 다섯 원칙을 제안했다. 조항을 확정, 논쟁 중, 미결로 표시해 견해 차이를 헌법 안에 기록하도록 했다. 시뮬레이션에서 시민의 50%가 악의 참여자여도 심의 기구에 선의 참여자가 75%면 과정이 강건하게 유지됐다.
핵심 요약
- 저자들은 헌법 개발을 시민과학에 비유한 진화하는 참여적 과정으로 다루어, 반복적으로 초안을 쓰고 시험하고 다듬도록 제안했다.
- 저자들은 반복적, 모듈적, 정당화 가능, 위치적, 정당성의 다섯 가지 바람직한 원칙을 제시했다.
- 조항을 확정, 논쟁 중, 미결으로 표시해서 오래 지속되는 의견 불일치를 헌법에 기록하도록 제안했다.
- 에이전트 기반 모델링에서 시민 가운데 악의 참여자가 50%여도, 심의 기구에 선의 참여자가 75%라면 제안된 과정은 강건했다.
논문 링크
외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.