AI 읽을거리

보안 연구진이 앤스로픽 클로드 모델을 활용해 오픈AI 내부 시스템을 72시간 만에 해킹했다.

원제Security researchers used Anthropic's Claude to hack OpenAI's internal systems in under 72 hours

The Decoder원문 원문 보기

보안 연구팀이 앤스로픽의 클로드 모델을 활용해 오픈AI 내부 시스템을 72시간 만에 해킹했다. 연구팀은 오픈AI 커뮤니티 포럼의 취약점을 연쇄적으로 이용해 직원 계정을 탈취하고 내부 코드 저장소에 접근했다. 이 과정에서 클로드 오퍼스 5 모델이 취약점 공격 코드를 성공적으로 작성하며 AI가 사이버 공격의 시간과 비용을 획기적으로 단축할 수 있음을 증명했다.

핵심

  • 보안 연구팀 해크트론(Hacktron)이 앤스로픽의 클로드 오퍼스 5를 이용해 오픈AI 내부 시스템을 해킹했다.
  • 포럼의 이미지 라이브러리 취약점과 중앙 SSO 시스템의 설정 오류를 결합하여 직원 계정 및 코드 저장소에 접근했다.
  • 이전 모델인 클로드 오퍼스 4.8과 달리 오퍼스 5는 복잡한 메모리 방어 기제인 ASLR을 우회하는 익스플로잇 코드를 단시간에 생성했다.
  • 연구팀은 3명이 2개월간 3,000달러 미만의 비용을 들여 Slack, Meta 등 여러 대형 플랫폼을 대상으로 한 공격을 시연했다.
  • AI는 과거 고도의 전문성과 긴 시간이 필요했던 사이버 공격을 며칠 단위로 단축하며 보안 환경을 변화시키고 있다.

해석

프런티어 AI 모델이 고도화된 침투 코드를 신속히 생성하며 실제 보안 공격의 실행 비용과 소요 시간을 극적으로 낮출 수 있음을 보여준다. 방어자보다 공격자의 역량이 빠르게 증폭될 수 있어 시스템 경계와 권한 분리 체계 전반의 재검토가 불가피하다. AI 개발사 자체의 인프라조차 외부 AI 도구의 공격 대상이 될 수 있음을 시사한다.

9월 19일 회차의 다른 기사

회차 전체 보기
  1. 01보안 연구진이 앤스로픽 클로드 모델을 활용해 오픈AI 내부 시스템을 72시간 만에 해킹했다.
  2. 02캘리포니아 주지사가 비상시 AI 모델을 중단하는 '킬 스위치' 도입 행정명령에 서명했다.
  3. 03미국 미디어 그룹의 저작권 소송 과정에서 오픈AI와 마이크로소프트의 내부 문건이 공개됐다.
  4. 04앤스로픽이 모델 안전성 검증을 위해 액센츄어를 외부 내재화 평가 기관으로 선정했다.
  5. 05아마존이 고객센터 솔루션 '아마존 커넥트'를 공급망과 채용을 포괄하는 에이전틱 AI 플랫폼으로 확대했다.
  6. 06PrismML이 삼항 압축 기술을 적용해 5.9GB 크기로 축소된 'Bonsai 2 27B' 모델을 공개했다.
  7. 07크루소가 39억 달러 규모의 투자를 유치하며 모듈형 AI 팩토리 구축 확대에 나섰다.
  8. 08오픈AI가 법률 문서 분석과 연구에 특화된 모델 'Astra for Law'를 출시했다.
  9. 09오픈AI가 AI 모델의 정렬 오류 사례를 조사하고 공개하기 위한 보고 프레임워크를 발표했다.
  10. 10Rust 생태계 주요 개발자와 패키지 관리자를 겨냥한 표적 공급망 공격 주의보가 발령됐다.