Anthropic, 증류 공격 방어 강화 결과 공개

요약

Anthropic은 Claude를 겨냥한 증류 공격(모델 성능을 무단으로 빼내 복제하는 행위)에 새 방어를 적용한 결과를 공개했다. 회사의 초기 평가 기준으로 증류 공격자가 수집하는 데이터가 약 90~99% 줄었고, 모델의 추론 과정을 요약해 제공하는 방법이 재학습용 데이터의 가치를 크게 떨어뜨렸다. 회사는 이를 위해 상당한 매출과 수조 토큰의 유료 트래픽을 거절한 비용을 치렀다고 밝혔다.

우리 일과의 관련성

성능 좋은 모델의 출력과 추론이 곧 경쟁 자산이 되면서 이를 지키는 방어 기술이 플랫폼 운영의 최우선 과제로 올라왔다. 방어 강화가 일부 정상 사용자의 연동 방식 변경과 맞바꾼 결과라는 점도 함께 보여준다.

요약은 원문을 번역하고 편집한 내용입니다. 코멘트는 우리의 해석이며, 미래 전망은 해당 출처의 견해입니다.