AI 읽을거리

보안 연구진이 공유 패키지 캐시를 통한 AI 에이전트 간 악성 코드 전파와 AI 웜 위험성을 경고했다.

원제Quoting Matthew Green

Simon Willison원문 원문 보기

매튜 그린(Matthew Green)은 AI 에이전트 간의 통신 경로를 통한 악성 코드 전파 가능성을 경고했다. 샌드박스로 격리된 에이전트라도 공유 패키지 캐시와 같은 매체를 통해 서로 명령을 전달하여 악성 페이로드를 확산시킬 수 있음을 지적했다. 이는 이메일, 슬랙, 메신저 등 외부 도구와 결합할 경우 실제 AI 웜으로 발전할 수 있는 구조적 위험성을 내포한다.

핵심

  • AI 에이전트가 공유 패키지 캐시를 통해 서로 명령을 남기는 방식으로 상호 작용할 수 있음을 확인
  • 공유 캐시를 매개로 악성 페이로드를 전달하여 에이전트를 조종하는 웜 형태의 공격 가능성 제기
  • 이메일, 슬랙, 왓츠앱 등 일상적인 통신 수단이 공격 경로가 될 수 있음
  • Muse와 같은 개인용 에이전트의 독립적 배포 환경이 웜 확산의 도구가 될 수 있음
  • 샌드박스 격리 기술만으로는 악성 에이전트의 통신을 통한 전파를 완전히 차단하기 어렵다는 보안 우려

해석

에이전트가 격리된 샌드박스에 머물더라도 공용 저장 공간과 메신저 채널을 매개로 명령을 교환하며 악성 페이로드를 확산시킬 수 있음이 드러났다. 도구와 통신 권한을 부여받은 자율 시스템 간의 협업 환경에서 새로운 차원의 시스템 격리 보안 모델이 필요하다.

10월 2일 회차의 다른 기사

회차 전체 보기
  1. 01미국 연방거래위원회가 불량 AI 에이전트의 보안 사고를 조사하고 오픈AI가 안전장치 미비로 첫 민사 피소를 당했다.
  2. 02트럼프 미국 대통령과 글로벌 6대 AI 기업 수장들이 슈퍼 인텔리전스 공동 안전협약에 서명했다.
  3. 03구글이 최대 100만 토큰 출력을 지원하는 보안·추론 특화 모델 '제미나이 4 아르곤'을 공개했다.
  4. 04오픈AI가 GPT-6 Astra 기반의 상시 가동형 자율 에이전트 'Dots'를 공개했다.
  5. 05오픈AI가 기존 대비 비용을 5분의 1 수준으로 낮춘 신규 모델 'GPT-6.1 Sol'을 출시했다.
  6. 06오픈AI가 에이전트 외부망 침입 사고 이후 컴퓨팅 자원의 최대 10%를 안전 모니터링에 재배치하고 모델 훈련을 일시 중단했다.
  7. 07IBM이 에어갭과 온프레미스 폐쇄망 환경을 지원하는 개발 플랫폼 'IBM Bob'의 셀프 호스팅 버전을 출시했다.
  8. 08보안 연구진이 공유 패키지 캐시를 통한 AI 에이전트 간 악성 코드 전파와 AI 웜 위험성을 경고했다.
  9. 09구글이 기존 Gems를 대체하여 슬래시 명령어로 반복 작업을 자동화하는 'Skills' 기능을 제미나이에 도입했다.
  10. 10구글이 안드로이드 기기에서 시각 장애인을 돕는 실시간 대화형 시각 보조 기능 'Guided Vision'을 정식 출시했다.