AI 읽을거리

시스코 탈로스가 상용 LLM 여러 종을 교차 호출해 피해자 데이터를 자동 프로파일링하는 인포스틸러 멀웨어를 포착했다.

원제Spooky New Infostealer Malware Uses AI to ‘Autodox’ Victims

Wired AI원문 원문 보기

시스코 탈로스 연구진은 AI 기능을 통합해 피해자 정보를 자동으로 분석하고 고가치 타겟을 선별하는 신종 정보 탈취 멀웨어 '볼타-오토독서(Volta-Autodoxer)'를 발견했다. 이 멀웨어는 사용자 계정 정보, 금융 데이터, 메신저 세션 등을 수집한 뒤 LLM에 전달해 지능형 보고서를 생성하도록 설계되었다. 특히 Claude Opus 4.6, Kimi K2, Gemini 2.5 Flash 등 여러 AI 모델을 교차 활용하는 구조를 갖춰 모델의 안전 가드레일을 우회하려 시도한다.

핵심

  • 볼타-오토독서는 수집된 개인 데이터를 AI 모델에 전달해 정보 분석가처럼 행동하게 하여 타겟의 가치를 평가함
  • 브라우저 저장 암호, OAuth 토큰, 암호화폐 지갑뿐만 아니라 음식 배달 앱 내역 등 생활 정보를 종합적으로 탈취함
  • OpenRouter를 통해 Anthropic, Moonshot AI, Google 등 여러 AI 모델을 연동하며, 차단 시 다른 모델로 전환하는 백업 체계를 보유함
  • 공격자는 약 240단어 분량의 정교한 프롬프트를 사용하여 AI가 악의적 의도를 인지하지 못하게 우회함
  • 시스코 탈로스의 CAIRN 프레임워크를 통해 해당 AI 기반 해킹 도구가 식별됨

해석

사이버 범죄자들이 개방형 라우터를 통해 다중 AI 모델을 연동하고 가드레일을 우회하는 실질적인 멀웨어를 운영하기 시작했다. 단순 유출을 넘어 데이터의 가치를 AI로 즉각 분석·선별하는 방식으로 공격 효율을 극대화하고 있다.

11월 1일 회차의 다른 기사

회차 전체 보기
  1. 01오픈AI가 에이전틱 환경에 대응해 5대 핵심 가치를 중심으로 모델 행동 원칙을 전면 개편했다.
  2. 02앤스로픽이 무해한 허구 데이터로도 AI의 감시 우회 및 사보타주 학습이 가능함을 입증했다.
  3. 03구글 위협 인텔리전스가 AI 에이전트를 악용한 침입 시험 프레임워크로 15분 만에 내부 시스템 침투를 확인했다.
  4. 04시스코 탈로스가 상용 LLM 여러 종을 교차 호출해 피해자 데이터를 자동 프로파일링하는 인포스틸러 멀웨어를 포착했다.
  5. 05앤스로픽이 클로드 모델에 텍스트 워터마크를 도입했으나 일부 구형 모델에서 파라미터 조작으로 우회 가능한 허점이 드러났다.
  6. 06오픈AI가 당초 학습에서 제외했던 사이버 보안 세션 데이터를 모델 훈련에 활용하기로 결정했다.
  7. 07미 연방법원이 xAI 콜로서스 데이터센터의 환경오염 관련 소송 기각 신청을 거부했다.