OpenAI、EU AI法対応のテキスト透かしを公開

要約

OpenAIはEU AI法のテキスト識別義務への対応として、統計的透かし手法「textGrain」を公開した。世界中のAPI利用者は選択的に有効化でき、EU圏のChatGPTおよびCodexの出力には数週間以内に不可視の透かしが付く。会社独自の評価では、誤検知率1%で200トークンの文の約80%、400トークンの約95%を検出したが、同義語置換などの編集には弱いという。検出ツールは承認された研究者・機関に限定公開され、技術のオープンソース化も計画されている。

仕事との関連

AI生成テキストの機械可読な識別が規制で求められ始めると、研究や文書作成におけるAI利用の表示と検証が標準になりうる。ただし検出精度には大きな限界があり、導入や政策の判断では併せて考慮すべきだ。

韓国語の原文を翻訳した記事です。 要約には翻訳と編集を含みます。コメントは私たちの解釈であり、将来予測は出典の見解です。