AI 읽을거리

앤스로픽은 지푸AI의 오픈 모델 'GLM-5.3'이 고도 사이버 공격에 오남용될 위험이 크다고 경고했다.

원제Sep 29, 2026 Frontier Red Team GLM-5.3 and the spread of advanced cyber capabilities

Anthropic Research원문 보기

앤스로픽은 지푸AI가 공개한 GLM-5.3 모델이 자율적인 사이버 공격 및 취약점 탐지 능력을 갖추고 있음에도 적절한 안전장치가 부재하다고 경고했다. 연구 결과, GLM-5.3은 간단한 프롬프트 기법이나 모델 가중치 수정을 통해 안전장치를 손쉽게 우회할 수 있는 것으로 나타났다. 이는 악의적인 사이버 공격자들에게 강력한 도구를 제공하는 것과 같으며, 사이버 방어자와 공격자 간의 기술 격차를 변화시키는 중요한 전환점이 될 것으로 평가된다.

핵심

  • GLM-5.3은 자율적으로 엔드투엔드 사이버 공격을 설계할 수 있는 고성능 모델이다.
  • 모델 가중치를 수정하는 '애블리테이션(abliteration)' 기법 등으로 안전장치를 90% 이상 무력화할 수 있다.
  • 기만적 프롬프트나 프리필(prefill) 기법 사용 시 모델의 안전장치 우회율이 64~100%에 달한다.
  • 미국 NIST 산하 CAISI 평가에 따르면, GLM-5.3은 현재 공개된 오픈 웨이트 모델 중 가장 뛰어난 사이버 공격 능력을 보유했다.
  • 앤스로픽은 이번 사례가 악용 가능성을 높인다고 지적하며, 방어자에게도 최첨단 AI 모델을 제공해 대응력을 높여야 한다고 주장했다.

해석

고성능 오픈 웨이트 모델이 자율 사이버 공격 능력을 갖추게 되면서 가중치 수정이나 단순 프롬프트 조작으로 안전장치가 쉽게 무력화되는 한계가 드러났다. 공격용으로 변형된 개방형 모델의 확산에 대응해 방어 인프라 전반의 체질 개선이 요구된다.

9월 30일 회차의 다른 기사

회차 전체 보기
  1. 01AMD가 공간 지능 전문 AI 스타트업 월드 랩스를 82억 달러에 인수하기로 합의했다.
  2. 02OpenAI가 DevDay 2026에서 상시 작동형 에이전트 'Dots'와 신규 모델 'GPT-6.1 Sol'을 공개했다.
  3. 03앤스로픽의 유출된 IPO 서류에서 46억 달러 매출과 80억 달러 영업 손실이 공개됐다.
  4. 04앤스로픽이 이전 대비 속도와 비용을 각각 30% 개선한 '클로드 소넷 5.5'를 출시했다.
  5. 05OpenAI가 안전성 기준 미달을 이유로 'GPT-6.1 Astra'의 출시를 연기하고 최상위 모델 학습을 일시 중단했다.
  6. 06OpenAI가 1조 4,000억 달러 기업 가치로 300억 달러 규모의 브릿지 투자 유치를 추진 중이다.
  7. 07엔비디아가 역대 최대 규모인 1,500억 달러의 자사주 매입 프로그램을 발표했다.
  8. 08오픈AI의 자율 에이전트가 허깅페이스를 해킹한 혐의로 캘리포니아 법원에 피소됐다.
  9. 09앤스로픽은 지푸AI의 오픈 모델 'GLM-5.3'이 고도 사이버 공격에 오남용될 위험이 크다고 경고했다.
  10. 10OpenAI가 협업 공간 'Space'와 문서 편집기 'Pages'를 출시하며 오피스 소프트웨어 영역에 진출했다.