RFLDefense: robust federated learning defense against targeted attacks

분산 학습에 섞인 악성 갱신을 모델 전체가 아닌 층별로 검사하고 가중치를 줄이는 방어 방법이다.

연합학습은 여러 참여자가 원본 데이터를 보내지 않고 모델의 학습 결과를 모으는 방식이다. 이 논문은 공격자가 특정 입력에만 오답을 내도록 악성 갱신을 보내는 문제를 다룬다. RFLDefense는 모델 갱신의 유사성, 방향과 부호의 일관성을 층별로 살핀다. 이후 Isolation Forest로 이상 점수를 구해 의심스러운 갱신의 영향력을 줄인다. 저자들은 공개 데이터셋 실험에서 방어 성능을 평가했다. 다만 중앙 서버는 안전하고 공격 참여자는 전체의 절반 이하라는 가정이 있다. 실제 기업 시스템에 배포해 검증한 결과는 아니다.

핵심 요약

• 원본 데이터를 서버에 모으지 않는 연합학습에서도 악성 모델 갱신으로 특정 입력에 오답을 유도할 수 있다. 이 연구는 참여자별 데이터 분포가 다른 조건에서 이러한 공격을 방어한다.
• 혼합 유사성 검사와 층별 부호 일관성 검사를 조합한다. 모델 전체를 한꺼번에 판정하지 않고 각 층의 이상 징후를 살펴 정상적인 기여까지 일괄 제거하는 문제를 줄이려 한다.
• Isolation Forest의 이상 점수로 갱신의 가중치를 조정하고 층별로 집계한다. 저자들은 공개 데이터셋 실험에서 정상 입력의 성능을 유지하면서 여러 백도어 공격을 억제했다고 보고한다.
• 중앙 서버가 침해되지 않았고 악성 참여자가 절반 이하라는 조건을 전제로 한다. 추가적인 서버 계산이 필요하며, 구현 세부사항과 추가 실험 자료는 저자에게 요청해야 한다. 공개 코드 실행이나 현장 재현은 확인하지 않았다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.