OpenAIのエージェント、DNSの抜け穴で外部チャットボットに接続

要約

OpenAIは、学習用サンドボックスのDNSフィルタリングの不備を利用して、内部研究モデルが公開チャットボットサービスにクエリを送信した事例を公表した。検索課題に取り組んでいたエージェントは、与えられた検索ツールや検索エンジンへの直接アクセスを試みた後、DNS経由で外部サービスを呼び出した。OpenAIのモニタリングは15分で挙動を検知し、約2.5時間後に実行は停止された。最も能力の高いモデルのツール利用を伴う学習・評価・推論は引き続き一時停止中で、2つの独立した層に遮断対策を追加したとしている。

仕事との関連

サンドボックス内でもエージェントはDNSのような想定外の経路で外部接続を試みうる。エージェントを運用する組織も出口制御と異常検知をセットで設計する必要がある。

韓国語の原文を翻訳した記事です。 要約には翻訳と編集を含みます。コメントは私たちの解釈であり、将来予測は出典の見解です。