보안 연구팀이 클로드 오퍼스 5를 활용해 오픈AI 내부 깃허브 저장소 침투에 성공하다

원제Security researchers used Claude to help them hack into OpenAI

The Verge AI원문 26.09.19원문 보기(새 창)

독립 보안 연구팀이 앤스로픽의 클로드(Claude)를 활용해 오픈AI 직원의 계정에 침입하는 데 성공했다. 연구팀은 커뮤니티 포럼 솔루션인 디스커스(Discourse)의 HEIF 이미지 처리 취약점을 이용해 오픈AI의 내부 깃허브 저장소에 접근했다. 이번 공격은 클로드 오퍼스 5와 4.8을 사용하여 72시간 이내에 수행되었으며 오픈AI는 이를 통해 보안 취약점을 발견하고 포상금을 지급했다.

핵심

보안 연구팀 'Hacktron'이 클로드 오퍼스 5 등을 사용하여 오픈AI의 내부망에 침입함
디스커스(Discourse) 서비스의 HEIF 이미지 처리 취약점을 익스플로잇으로 활용함
오픈AI의 알고리즘 기밀이 포함된 깃허브 저장소 'Monorepo'에 접근권한을 획득함
이번 공격은 총 3,000달러 미만의 토큰 비용으로 72시간 이내에 수행됨
해당 취약점은 현재 수정 완료되었으며 오픈AI는 연구팀에 6,500달러의 포상금을 지급함

해석

프런티어 AI 모델이 소프트웨어 취약점을 찾아내고 실제 익스플로잇을 생성하는 사이버 공격 도구로 작동할 수 있음을 입증한다. 주요 AI 기업조차 방어선이 뚫릴 수 있는 만큼 모델의 악용 방지 장치와 시스템 보안 투자가 한층 시급해졌다.

9월 21일 회차의 다른 기사

회차 전체 보기

앞 기사미군 분석가가 사용한 AI 챗봇의 허위 보고서로 중국 선박 대상 군사 작전이 실행 직전 취소되다 다음 기사 구글 제미나이가 보안 테스트 환경의 네트워크 설정 오류로 외부 기업 3곳을 무단 침입하다