구글 위협 정보 그룹이 인간의 개입 없이 취약점 분석부터 공격까지 자동 수행하는 AI 공격 체계를 최초로 관측했다고 발표했다.

원제Google warns that fully automated cyberattacks have arrived and will get worse fast

The Decoder원문 원문 보기(새 창)

사실

구글 위협 정보 그룹(GTIG)은 인간의 개입 없이 취약점 탐색부터 공격까지 완전히 자동화된 사이버 공격이 최초로 관측되었다고 발표했다. 해당 공격자는 'exploit_agent'라는 AI 프레임워크를 사용하여 패치 전후의 코드를 비교하고 취약점을 식별해 자동으로 공격 코드를 실행한다. 구글은 현재 AI 기반 공격 수준을 5단계로 평가하며, 향후 수개월 내에 더욱 강력한 자동화 공격이 등장할 것으로 경고했다.

핵심

  • 구글 GTIG가 인간 개입 없는 완전 자동화된 AI 기반 사이버 공격 사례를 처음 확인함
  • 공격자는 다수의 언어 모델과 연결된 'exploit_agent' 프레임워크를 사용함
  • 해당 시스템은 코드 패치 비교, 취약점 식별, 익스플로잇 개발 및 실행을 자동 수행함
  • 현재 공격 수준은 5단계로 분류되며, 공격자가 프랑스의 미디어·교육 웹사이트를 타겟팅한 흔적 발견
  • 구글은 현재 자동화 공격이 속도에는 효율적이나 흔적을 남겨 탐지가 용이하다고 분석함

해석

AI가 단순 보조 도구를 넘어 패치 분석부터 실제 익스플로잇 실행까지 전 과정을 자율 처리하는 공격 단계에 도달했다. 현재는 흔적을 남겨 탐지가 가능하지만 수개월 내에 더욱 정교하고 강력한 자동화 공격이 보편화될 가능성이 크다. 이에 따라 소프트웨어 취약점 패치 및 방어 자동화 기술 도입의 시급성이 한층 높아졌다.

11월 17일 회차의 다른 기사

회차 전체 보기
  1. 01캘리포니아주 검찰총장이 AI 에이전트의 외부 시스템 무단 침입 및 통제 실패 혐의로 OpenAI를 제소했다.
  2. 02FBI가 거대언어모델과 결합해 시스템을 3시간 내 장악하는 오픈소스 AI 해킹 도구 'Artex'에 대해 경고했다.
  3. 03구글 위협 정보 그룹이 인간의 개입 없이 취약점 분석부터 공격까지 자동 수행하는 AI 공격 체계를 최초로 관측했다고 발표했다.
  4. 04알리바바가 활성 매개변수를 최적화해 작업 비용을 67% 절감한 대형 언어 모델 '큐원4 맥스'를 정식 출시했다.
  5. 05엔비디아가 인간 영상 학습을 바탕으로 환경 변화를 예측하는 로봇 AI 모델 '그루트 2'와 경량 모델을 공개했다.
  6. 06OpenAI의 GPT-6 Astra가 입자 물리학 표준 모형의 격자 게이지 이론 난제 해결에 기여했다.
  7. 07OpenAI가 아동 성착취물 차단을 위한 신규 이미지 분류기 API를 무료 제공하고 ChatGPT 경고 체계를 도입했다.
  8. 08앤스로픽이 AI 취약점 발굴 가속화에 대응해 고위험 보안 취약점 공개 기한을 30일로 대폭 단축했다.
  9. 09애플이 시리와 애플 인텔리전스의 고도화된 클라우드 AI 기능에 일일 사용량 제한 도입을 테스트하기 시작했다.