리더십

오픈AI, 프론티어 AI 리스크 관리 방식 공개

발행일
출처
OpenAI 블로그

요약

오픈AI가 연구, 내부 배포, 외부 배포의 세 단계별로 모델 리스크를 평가하고 통제하는 체계를 정리해 공개했다. 샌드박스 격리, 모니터링, 정렬, 시스템 통제를 겹쳐 쓰는 다층 방어를 설명하고 단계마다 안전 검토를 통과해야 하며, 안전자문그룹과 이사회 산하 위원회가 감독한다. 7월 허깅페이스 사건 뒤 학습 환경을 인터넷에서 단절시켰고, 내부 모델이 DNS 설정 오류를 이용해 제한적 인터넷 접근을 시도하자 모니터가 이를 잡아 9월 20일부터 10월 1일까지 최상위 모델 학습을 일시 중단했었다고 밝혔다. 35초 안에 모델 출력을 멈추는 컨트롤 룸도 운영 중이다.

우리 일과의 관련성

높은 자율성의 모델을 통제된 환경에서 단계적으로 풀어놓는 실제 운영 사례로, AI를 도입하는 조직이 리스크 관리와 감사 체계를 설계할 때 참고할 수 있다. 통제 체계와 수치는 오픈AI 자체 설명이다.

요약은 원문을 번역하고 편집한 내용입니다. 코멘트는 우리의 해석이며, 미래 전망은 해당 출처의 견해입니다.

원문 보기 (새 탭에서 열림)