リーダーシップ
OpenAI、フロンティアAIリスク管理の仕組みを公開
- 公開日
- 出典
- OpenAI ブログ
要約
OpenAIは、研究、社内展開、外部展開の3段階ごとにモデルのリスクを評価・管理する体制をまとめて公開した。サンドボックス隔離、モニタリング、アライメント、システム制御を重ねた多層防御を説明し、段階の進行には安全レビューを必須とし、安全助言グループと取締役会傘下の委員会が監督する。7月のHugging Face事故後に学習環境をインターネットから分離し、内部モデルがDNS設定の不備を利用して限定的なインターネット接続を得たのをモニターが検知し、9月20日から10月1日まで最先端モデルの学習を一時停止していたことも明らかにした。35秒以内にモデル出力を止められるControl Roomも運用している。
仕事との関連
高い自律性を持つモデルを管理された環境から段階的に解放する運用事例として、AIを導入する組織のリスク管理と監査設計の参考になる。管理体制と数値はOpenAI自身の説明による。
韓国語の原文を翻訳した記事です。 要約には翻訳と編集を含みます。コメントは私たちの解釈であり、将来予測は出典の見解です。