AI 읽을거리

공개 가중치 중국 AI 모델들의 해킹 능력이 폐쇄형 최상위 모델 수준에 근접했다는 연구 결과가 나왔다.

원제Free Chinese AI Models Are Getting Scary Good at Hacking

Wired AI원문 원문 보기

AI 성능 측정 기업 Vals의 연구 결과, 공개형(open-weight) 중국 AI 모델이 폐쇄형 최상위 모델의 해킹 능력을 상당 부분 따라잡은 것으로 나타났다. 모의 기업 네트워크를 대상으로 한 해킹 테스트에서 딥시크(DeepSeek)는 오픈AI의 비공개 모델인 데이브레이크(Daybreak)와 근소한 차이의 성능을 기록했다. 이러한 결과는 폐쇄형 모델의 접근 제한을 통해 사이버 위협을 늦추려던 AI 기업들의 전략이 한계에 직면했음을 시사한다.

핵심

  • Vals의 연구 결과, 딥시크(DeepSeek)와 GLM 등 오픈형 모델의 해킹 능력이 폐쇄형 최상위 모델인 오픈AI '데이브레이크'에 근접함
  • 모의 네트워크 침투 테스트 결과, 데이브레이크는 작업 완료율 81%, 딥시크는 73%를 기록함
  • 오픈형 모델은 독자적인 하드웨어에서 구동 가능하여 공격 비용이 2~3달러 수준으로, 17~46달러가 드는 폐쇄형 모델보다 경제적임
  • 이번 연구는 AI 모델의 해킹 기능이 대중화되면서 폐쇄형 모델의 접근 제한 정책이 무력화될 수 있음을 보여줌
  • 보안 전문가들은 이번 결과가 오픈형 모델이 고급 공격을 수행할 수 있음을 증명하며, 사이버 보안 환경에 위험한 전환점이 될 수 있다고 경고함

해석

폐쇄형 모델의 접근 통제를 통해 고위험 공격 역량을 차단하려던 프론티어 기업들의 방어 전략이 한계에 부딪혔다. 저렴한 비용으로 구동 가능한 오픈 모델의 침투 역량이 급증함에 따라 방어 중심 보안 환경의 전면적 재편이 불가피해졌다.

11월 7일 회차의 다른 기사

회차 전체 보기
  1. 01보안 기업 센시스가 웹상에 무방비 노출된 AI 해킹 도구 아텍스 인스턴스 800여 개를 적발했다.
  2. 02공개 가중치 중국 AI 모델들의 해킹 능력이 폐쇄형 최상위 모델 수준에 근접했다는 연구 결과가 나왔다.
  3. 03퍼플렉시티가 가상 머신 기반으로 상시 구동되는 자율 업무용 AI 에이전트 '팀메이츠'를 출시했다.
  4. 04앤스로픽이 유휴 시간에 기억을 정리해 장기 추론 능력을 높이는 에이전트 기술 '드림'을 발표했다.
  5. 05메타가 AI 어시스턴트 뮤즈에 프롬프트로 맞춤형 작업 공간을 구축하는 '스페이스' 기능을 도입했다.
  6. 06팅킹 머신즈가 5,940억 파라미터 언어 모델 '잉클링 2 스몰'을 공개하고 50억 달러 투자 유치를 추진한다.
  7. 07외부 감사 결과 앤스로픽의 AI 모델 성능 향상 속도가 책임 있는 확장 정책의 경고 임계값을 넘어섰을 가능성이 제기됐다.
  8. 08애질리티 로보틱스가 SPAC 합병을 마치고 미국 최초의 순수 휴머노이드 상장 기업으로 나스닥에 입성했다.
  9. 09미국 중간선거에서 AI 규제 찬성 후보들이 대거 당선되며 데이터센터 확장과 인프라 확보에 제동이 걸렸다.
  10. 10기업의 AI 토큰 사용량은 급증했으나 API 단가 인하 경쟁으로 관련 지출 증가세는 정체 국면에 진입했다.