Anthropic, 모델 불법 증류 공격 차단 기능 강화...추출 시도 최대 99% 감축
앤트로픽, 불법 증류 차단 고강도 방어 체계 도입...“추출 시도 최대 99% 감축”
- 매체
- AI타임스
- 게시
- 중요도
- 4/5
- 화제 지수
- —
한국어 요약
Anthropic이 Claude의 핵심 추론 능력을 무단으로 복제하는 불법 증류 공격을 막기 위해 추론 데이터 보호와 공격 탐지 기능을 대폭 강화했다. 새로운 보안 조치로 공격자들의 데이터 수집량을 기존 대비 90~99% 줄였다.
원문 발췌 · English
앤트로픽이 AI 모델의 성능을 몰래 복제하는 ‘불법 증류’를 막기 위해 추론 데이터 보호와 공격 탐지 기능을 강화하고, 반복적으로 공격에 나선 계정을 대거 차단하는 등 대응 수위를 높이고 있다. 앤트로픽은 12일(현지시간) 자사 AI 모델 ‘클로드(Claude)’의 핵심 추론 능력을 무단으로 복제하는 불법 증류 공격을 차단하기 위해 방어 체계를 대폭 강화했다고 발표했다. 새로운 보안 조치를 통해 공격자들이 수집하는 추론 데이터양을 기존보다 약 90~99% 줄였다고 밝혔다. 증류는 성능이 뛰어난 AI 모델에서 대량의 응답 데이터를 수