앤트로픽, 신규 안전장치로 'AI 증류 공격' 대폭 차단 — 데이터 유출 90~99% 감소

3줄 요약

• 로이터에 따르면 앤트로픽(Anthropic)이 클로드(Claude)의 추론 과정 접근을 제한하고 프록시 네트워크를 통한 반복적 탐색을 어렵게 만든 신규 안전장치로, 경쟁사가 대규모 질의를 통해 모델 출력을 수집해 능력을 더 빠르고 저렴하게 재현하는 'AI 증류(distillation) 공격'을 대폭 차단했다고 밝혔다. 이 탐지 시스템의 오탐률은 0.1% 미만이라고 설명했다.
• 앤트로픽은 이번 안전장치로 증류 시도를 통해 수집되는 데이터가 약 90~99% 줄었고, 추출되는 추론 토큰 수도 10~100배 감소했다고 밝혔다. 증류 캠페인과 연관된 계정 수만 개도 차단했다. 중국 AI 스타트업 Z.ai(즈푸)를 사례로 들어, GLM-5.3 모델 개발 과정에서 클로드의 역량을 증류하려 했다고 지적했으며, Z.ai는 논평 요청에 즉각 응답하지 않았다.

본 요약은 원문 기사를 자체 가공한 것으로, 전체 맥락은 하단 출처 링크에서 확인하세요.