OpenAI公布应对欧盟AI法案的文本水印方案

摘要

OpenAI为应对欧盟AI法案的文本标识要求，公开了名为textGrain的统计水印技术。全球API客户可选择开启，欧盟地区ChatGPT和Codex的文本输出将在数周内加入不可见水印。在公司自己的评估中，以1%误报率计算，200词元段落约80%、400词元段落约95%可被检出，但同义词替换等编辑会明显削弱信号。检测工具初期仅向获批的研究人员和机构开放，并计划开源该技术。

与我们工作的关联

随着监管要求以机器可读方式标识AI生成文本，来源标记可能成为研究与文书工作的标准做法。但检测精度存在明显局限，制定政策或引入流程时应一并考虑。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。