샘 올트먼, 유엔 안보리에서 AI 안전 연설

요약

OpenAI CEO 샘 올트먼이 유엔 안전보장이사회에서 연설하며 강력한 AI는 인간의 통제 아래 남아야 하고 안전을 위한 국제 협력이 필요하다고 말했다. 그는 재앙 수준의 위험을 10%로 보든 0.1%로 보든 '어느 쪽도 받아들일 수 없다'고 짚으며, 정렬·감시 가능성·안전 보장을 강하게 입증하지 못하는 모델은 훈련하지 말아야 한다고 주장했다. OpenAI는 과거에 일방적으로 개발 속도를 늦춘 적이 있고 앞으로도 그럴 것이라고도 했다. 언론 보도에 따르면 같은 날 Anthropic CEO 다리오 아모데이도 안보리에서 연설했다.

우리 일과의 관련성

최전선 AI 기업 수장들이 속도 경쟁이 아니라 인간 통제와 국제 규범을 국제 무대로 끌어올린 점이 신호다. AI를 쓰는 조직은 글로벌 안전 규범이 정해지는 속도를 도입과 개발 계획에 반영해야 한다.

요약은 원문을 번역하고 편집한 내용입니다. 코멘트는 우리의 해석이며, 미래 전망은 해당 출처의 견해입니다.