Anthropic公开针对蒸馏攻击的强化防御结果

摘要

Anthropic公开了针对蒸馏攻击(未经许可抽取模型能力来构建仿制品)的新防御成果。按该公司初步评估,蒸馏方收集的数据减少了约90%至99%,对模型推理过程进行摘要的方式大幅降低了被盗数据用于再训练的价值。公司还披露,为此付出了拒接可观收入和数万亿token付费流量的代价。

与我们工作的关联

随着高性能模型的输出与推理成为竞争资产,保护它们的防御技术已升至平台运营的首要课题。文中也表明,强化防御与部分正规用户更改集成方式互为代价。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。