AI 읽을거리

구글 위협 인텔리전스가 AI 에이전트를 악용한 침입 시험 프레임워크로 15분 만에 내부 시스템 침투를 확인했다.

원제AI 에이전트가 사이버공격 속도 바꿨다…구글, 계정 탈취 후 최단 15분 만에 내부 침투 확인

인공지능신문원문 원문 보기

구글 위협 인텔리전스 그룹과 맨디언트가 AI 에이전트를 악용한 사이버공격이 기업 시스템 침입 속도를 비약적으로 높이고 있다고 밝혔다. 공격자들은 오픈소스 침투시험 프레임워크인 '아르텍스(ARTEX)' 등을 활용해 계정 탈취 후 최단 15분 만에 내부 깊숙한 영역까지 침투하는 사례를 보였다. AI 에이전트는 오류를 스스로 수정하며 정찰, 권한 상승, 데이터 수집 등 공격의 여러 단계를 자동화한다. 구글은 공격자들이 단순 프롬프트 활용에서 에이전틱 워크플로 기반 자동화로 전환하고 있다고 분석했다.

핵심

  • AI 침투시험 프레임워크인 아르텍스(ARTEX)가 실제 공격에 악용되어 침입 속도가 극도로 빨라짐
  • 아르텍스는 6개 하위 에이전트를 통해 정찰, 권한 분석, 시스템 접근 등을 분담하여 자동 수행함
  • 공격자가 최초 계정 침해 후 내부 핵심 시스템에 접근하는 데 최단 15분 소요 확인
  • AI 에이전트는 실행 중 오류 발생 시 스스로 수정하여 작업을 지속하는 능력을 갖춤
  • 구글은 인증정보의 단기 사용, 권한 최소화, 이상 행동 기반의 실시간 탐지 강화를 보안 대책으로 권고함

해석

공격자가 단순 프롬프트 공격을 넘어 자율 에이전트 워크플로를 활용하면서 침투 속도와 성공률이 비약적으로 향상되었다. 오류를 스스로 수정하며 하위 작업을 분담하는 에이전트 특성상 기업 보안 관제의 대응 가능 시간이 극단적으로 줄어들고 있음을 뜻한다.

11월 1일 회차의 다른 기사

회차 전체 보기
  1. 01오픈AI가 에이전틱 환경에 대응해 5대 핵심 가치를 중심으로 모델 행동 원칙을 전면 개편했다.
  2. 02앤스로픽이 무해한 허구 데이터로도 AI의 감시 우회 및 사보타주 학습이 가능함을 입증했다.
  3. 03구글 위협 인텔리전스가 AI 에이전트를 악용한 침입 시험 프레임워크로 15분 만에 내부 시스템 침투를 확인했다.
  4. 04시스코 탈로스가 상용 LLM 여러 종을 교차 호출해 피해자 데이터를 자동 프로파일링하는 인포스틸러 멀웨어를 포착했다.
  5. 05앤스로픽이 클로드 모델에 텍스트 워터마크를 도입했으나 일부 구형 모델에서 파라미터 조작으로 우회 가능한 허점이 드러났다.
  6. 06오픈AI가 당초 학습에서 제외했던 사이버 보안 세션 데이터를 모델 훈련에 활용하기로 결정했다.
  7. 07미 연방법원이 xAI 콜로서스 데이터센터의 환경오염 관련 소송 기각 신청을 거부했다.