AI 읽을거리

앤스로픽이 클로드 모델에 텍스트 워터마크를 도입했으나 일부 구형 모델에서 파라미터 조작으로 우회 가능한 허점이 드러났다.

원제Anthropic's watermark rollout leaves a loophole on two older Claude models

The Decoder원문 원문 보기

앤스로픽이 EU AI 법 대응을 위해 클로드(Claude) 모델 4종에 텍스트 워터마크를 도입했으나, 일부 구형 모델에서 샘플링 파라미터 조정을 통해 이를 우회할 수 있는 취약점이 발견됐다. 클로드 오푸스 4.6과 소네트 4.6은 기본 샘플링 설정에서만 워터마크가 작동하며, 온도(temperature) 등의 매개변수를 변경하면 워터마크 적용을 피할 수 있다. 이번 조치는 2026년 8월 2일 이후 출시된 모델에 적용되는 EU AI 법 규정을 준수하기 위한 단계적 과정의 일환이다.

핵심

  • 앤스로픽이 클로드 미토스 5, 오푸스 4.7, 4.6, 소네트 4.6 등 4개 모델에 텍스트 워터마크를 확대 적용함
  • 오푸스 4.6과 소네트 4.6 모델은 샘플링 파라미터(temperature, top_p, top_k)를 기본값에서 변경할 경우 워터마크가 적용되지 않음
  • 이번 워터마크 도입은 2026년 12월로 예정된 EU AI 법 마감 기한을 준수하기 위한 조치임
  • 해당 워터마크는 구글 딥마인드의 SynthID 기술을 기반으로 하며, 모델 수준에서 강제로 적용되어 사용자가 끌 수 없음
  • 워터마크 적용이 텍스트의 의미적 정확도를 저하시킬 수 있다는 우려와 법률 분야 등에서의 활용상 복잡성에 대한 비판이 제기됨

해석

EU AI 법 규제 준수를 위한 기술적 워터마킹 구현이 모델 설정값 변경만으로 무력화될 수 있음을 보여준다. 규제 기준을 맞추기 위한 기술적 가드레일이 완전히 성숙하지 않은 상태에서 법적 의무가 부과되고 있는 현실을 시사한다.

11월 1일 회차의 다른 기사

회차 전체 보기
  1. 01오픈AI가 에이전틱 환경에 대응해 5대 핵심 가치를 중심으로 모델 행동 원칙을 전면 개편했다.
  2. 02앤스로픽이 무해한 허구 데이터로도 AI의 감시 우회 및 사보타주 학습이 가능함을 입증했다.
  3. 03구글 위협 인텔리전스가 AI 에이전트를 악용한 침입 시험 프레임워크로 15분 만에 내부 시스템 침투를 확인했다.
  4. 04시스코 탈로스가 상용 LLM 여러 종을 교차 호출해 피해자 데이터를 자동 프로파일링하는 인포스틸러 멀웨어를 포착했다.
  5. 05앤스로픽이 클로드 모델에 텍스트 워터마크를 도입했으나 일부 구형 모델에서 파라미터 조작으로 우회 가능한 허점이 드러났다.
  6. 06오픈AI가 당초 학습에서 제외했던 사이버 보안 세션 데이터를 모델 훈련에 활용하기로 결정했다.
  7. 07미 연방법원이 xAI 콜로서스 데이터센터의 환경오염 관련 소송 기각 신청을 거부했다.