産業の変化
OpenAI、外部評価機関による内部アクセス評価を開始
- 公開日
- 出典
- OpenAIブログ
要約
OpenAIは、Apollo Research、METR、Transluce、Goodfireの4つの独立評価機関と「組み込み評価(embedded assessments)」第1段階の契約を結んだと発表した。評価機関はモデルのチェックポイント、学習・評価データ、監視システム、研究者へのインタビューなど開発内部のリソースに深くアクセスし、アライメントと安全策を独立に検証する。施設内での作業やセキュリティ規則、取締役会傘下のSafety and Security Committeeによる監督と紛争解決の手順も公開し、ホワイトハウスの超知能合意で約束した独立評価の実施の一環だと説明している。
仕事との関連
外側からのテストを超え、評価者が開発現場の中に入って検証する方式が本格的に始まった。実効性は実際の評価報告書が出るまで分からないが、AI業界の検証・監督の慣行が変わり始めた最初の事例として注目に値する。
韓国語の原文を翻訳した記事です。 要約には翻訳と編集を含みます。コメントは私たちの解釈であり、将来予測は出典の見解です。