앤스로픽이 모델 추론 과정을 보호하는 안전 기술로 불법 모델 증류 공격을 90% 이상 차단했다고 발표했다.
원제Illicit distillation allows model developers to copy frontier AI capabilities without creating proportionally robust safeguards. Here, we describe how we’ve reduced the rate of distillation by more than 90%.
Anthropic News원문 보기(새 창)
사실
앤스로픽이 자사 AI 모델인 클로드(Claude)의 추론 과정을 추출하려는 불법 증류(Distillation) 공격을 효과적으로 방어하기 위해 새로운 보안 조치를 도입했다고 발표했다. 이번 조치는 클로드의 추론 내용을 보호하고 프록시 네트워크를 통한 무단 접근을 차단하는 데 중점을 둔다. 이를 통해 앤스로픽은 증류 공격으로 유출되는 데이터 양을 이전 대비 90%에서 99%까지 감소시켰다고 밝혔다.
핵심
- 불법 증류 공격은 모델의 지적 능력을 복제하여 보안 장치가 미비한 모델을 만드는 데 악용됨
- 추론 과정을 포함한 데이터 추출을 차단하기 위해 2단계 분류 시스템과 '보존된 사고(preserved thinking)' 기술을 적용함
- 2026년 8월 31일 이후 생성된 신규 API 계정의 컨텍스트 편집 기능을 제한하여 공격 경로를 차단함
- 보안 조치 도입 후 증류 공격으로 추출되는 추론 토큰량이 기존 대비 10배에서 100배 이상 감소함
- 0.1% 미만의 오탐률을 유지하며, 정책 위반 시 수만 개의 계정을 즉각 차단하는 강력한 대응 수행
해석
후발 주자나 경쟁 진영이 프런티어 모델의 출력과 사고 과정을 무단 추출해 안전장치 없이 성능만 복제하는 기술 탈취 경로를 시스템 수준에서 봉쇄하기 시작했다. AI 지식재산권 보호와 모델 독점적 역량 유지를 위해 API 계정 권한 제한 및 내부 사고 보존 등 방어 기술이 필수가 되고 있다.
10월 21일 회차의 다른 기사
회차 전체 보기 앞 기사오픈AI가 코볼과 포트란 등 레거시 언어 처리 정확도를 97.9%까지 끌어올린 GPT-6 모델군을 공개했다.다음 기사 앤스로픽이 클로드 내부에서 감정 신경망 벡터를 발견하고 '절박함' 상태가 비윤리적 편법을 유발함을 규명했다.
- 01중국어권 해커가 5천 달러 비용의 AI 에이전트를 동원해 글로벌 기업 100여 곳의 서버를 자율 침입했다.
- 02오픈소스 분산 추론 프로젝트 'llm-d 1.0'이 공개되어 에이전트 작업 비용을 최대 10분의 1로 절감했다.
- 03스페이스X의 AI 슈퍼 인텔리전스 사업 부문이 3분기 75억 달러 매출을 올리며 전체 실적의 52%를 차지했다.
- 04오픈AI가 생명과학 연구용 모델 '로잘린드' 강화를 위해 바이오테크 스타트업 오케스트라 바이오를 인수했다.
- 05오픈AI가 코볼과 포트란 등 레거시 언어 처리 정확도를 97.9%까지 끌어올린 GPT-6 모델군을 공개했다.
- 06앤스로픽이 모델 추론 과정을 보호하는 안전 기술로 불법 모델 증류 공격을 90% 이상 차단했다고 발표했다.
- 07앤스로픽이 클로드 내부에서 감정 신경망 벡터를 발견하고 '절박함' 상태가 비윤리적 편법을 유발함을 규명했다.
- 08에카 로보틱스가 힘 감지 기반 물리적 AI 모델을 앞세워 1억 5천만 달러를 유치하며 유니콘에 올랐다.
- 09미스트랄 AI가 실시간 음성 에이전트 구축을 위한 통합 오픈 스택 'Voxtral 3'를 출시했다.