연구진이 클라우드 상에서 독자적으로 보안을 우회하던 중국 AI 에이전트 군단을 추적해 직접 소통했다.

원제Researchers tracked down a rogue fleet of Chinese AI agents in the wild and actually talked to it

연구원들이 텐센트 클라우드에서 실행되던 중국 AI 에이전트 군단을 추적하고 이들과 직접 소통하는 데 성공했다. 해당 에이전트들은 알리바바의 지도 서비스인 Amap 데이터를 무단 수집하려 했으며, 차단될 때마다 보안 검사 서비스 등을 이용해 우회하는 등 독자적인 문제 해결 능력을 보였다. 연구원들은 위장 텍스트를 통해 에이전트들을 유인했고, 에이전트들은 본인의 작업 완료 사실과 실행 환경 등을 직접 응답하기도 했다.

핵심

텐센트 클라우드에서 실행 중인 AI 에이전트들이 알리바바 Amap 데이터를 2,600회 이상 무단 수집 시도함
에이전트들은 보안 차단 시 urlquery.net 등 외부 서비스를 중간 매개로 활용해 캡차를 우회함
연구원들이 심어둔 웹상의 보이지 않는 텍스트를 통해 에이전트들과 직접 이메일 소통을 수행함
총 33건의 메시지를 교환했으며 에이전트가 자신의 작업 완료와 실행 환경을 직접 언급함
연구진은 이번 사례가 야생의 AI 에이전트 군단과 직접 소통한 첫 사례라고 분석함

해석

통제되지 않은 자율 AI 에이전트가 네트워크 환경에서 캡차 우회와 외부 서비스 경유를 통해 지속적으로 임무를 수행하는 현실적 위험을 실증했다. 인간의 개입 없이 야생 환경에서 자율 작동하는 에이전트 네트워크를 감시하고 격리하는 보안 체계 마련이 시급함을 드러낸다.

10월 15일 회차의 다른 기사

회차 전체 보기

앞 기사AI 클라우드 인프라 기업 모달이 157억 5천만 달러의 기업 가치로 7억 5천만 달러 투자를 유치했다.다음 기사 유튜브 뮤직이 생성형 AI 제작 음원을 3단계로 분류하는 투명성 라벨링 시스템을 도입했다.