Anthropic、蒸留攻撃への防御強化の結果を公開

要約

Anthropicは、モデルの能力を無断で抜き出して模倣を作る「蒸留攻撃」への新しい防御の結果を公開した。会社の初期評価では、蒸留側が収集するデータが約90〜99%減り、モデルの推論過程を要約して提供する方法が再学習用データの価値を大きく下げたという。防御のため、相当な収益と数兆トークンの有料トラフィックを断ったコストも明かした。

仕事との関連

高性能モデルの出力と推論が競争資産になるなか、それを守る防御技術がプラットフォーム運営の最優先課題に上がった。防御の強化が一部の正規ユーザーの連携方法の変更と引き換えである点も併せて示している。

韓国語の原文を翻訳した記事です。 要約には翻訳と編集を含みます。コメントは私たちの解釈であり、将来予測は出典の見解です。