Living constitutions: Participatory alignment for sovereign foundation models

발행일
출처
arXiv
논문 번호
1487
분야
AI / General
arXiv 번호
2611.13402

이 논문은 주권 기반모델의 헌법을 시민과학처럼 참여적으로 계속 다듬는 '살아있는 헌법' 절차를 제안하고 악의 참여자에 대한 강건성을 시뮬레이션으로 확인했다.

이 논문은 한마디로 AI 헌법 만들기를 반복적이고 참여적인 과정으로 설계한 뒤, 에이전트 기반 모델링으로 그 강건성을 시험한 연구다. 저자들은 반복적, 모듈적, 정당화 가능, 위치적, 정당성의 다섯 원칙을 제안했다. 조항을 확정, 논쟁 중, 미결로 표시해 견해 차이를 헌법 안에 기록하도록 했다. 시뮬레이션에서 시민의 50%가 악의 참여자여도 심의 기구에 선의 참여자가 75%면 과정이 강건하게 유지됐다.

핵심 요약

  • 저자들은 헌법 개발을 시민과학에 비유한 진화하는 참여적 과정으로 다루어, 반복적으로 초안을 쓰고 시험하고 다듬도록 제안했다.
  • 저자들은 반복적, 모듈적, 정당화 가능, 위치적, 정당성의 다섯 가지 바람직한 원칙을 제시했다.
  • 조항을 확정, 논쟁 중, 미결으로 표시해서 오래 지속되는 의견 불일치를 헌법에 기록하도록 제안했다.
  • 에이전트 기반 모델링에서 시민 가운데 악의 참여자가 50%여도, 심의 기구에 선의 참여자가 75%라면 제안된 과정은 강건했다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.

원문 보기 (새 탭에서 열림)