FBI가 거대언어모델과 결합해 시스템을 3시간 내 장악하는 오픈소스 AI 해킹 도구 'Artex'에 대해 경고했다.
원제FBI says Artex AI open-source hacking tool used to breach networks in ‘under three hours’
TechCrunch AI원문 원문 보기(새 창)
사실
미국 연방수사국(FBI)이 오픈소스 AI 해킹 도구 'Artex'를 악용한 사이버 공격이 급증하고 있다고 경고했다. 해당 도구는 최신 언어 모델과 결합해 네트워크 취약점을 빠르게 스캔하며, 침입 후 3시간 이내에 시스템을 장악할 수 있는 것으로 나타났다. 실제 한국 금융권과 커넥트와이즈, 바라쿠다 등 주요 기업이 이 도구를 이용한 공격으로 개인정보 탈취 등의 피해를 입었다.
핵심
- FBI는 Artex 등 자율형 AI 해킹 도구를 이용한 사이버 공격 사례가 다수 확인되었다고 경고함
- Artex는 Anthropic, OpenAI 등의 거대 언어 모델(LLM)과 결합해 네트워크 침투와 데이터 탈취를 수행함
- 공격자는 이 도구를 활용해 보안 허점을 찾고 3시간 이내에 시스템 침투를 완료할 수 있음
- 한국 금융기관 해킹으로 6만 8천 명 이상의 개인정보가 유출되었고, 커넥트와이즈 등 주요 IT 기업도 피해를 입음
- 개발자가 도구를 폐쇄형으로 전환했음에도 불구하고 이전 오픈소스 버전이 유출되어 여전히 광범위하게 악용되고 있음
해석
최신 거대언어모델을 연동한 자율 해킹 도구가 실제 금융권과 IT 기업 침투 및 개인정보 유출에 활용되고 있음이 확인됐다. 한번 공개된 오픈소스 모델 및 도구는 개발자가 비공개로 전환하더라도 유출본을 통해 지속적인 보안 위협을 야기할 수 있음을 보여준다. 방어 조직 또한 AI 기반 침투 속도에 맞춘 실시간 대응 체계를 구축해야 할 필요성이 커졌다.
11월 17일 회차의 다른 기사
회차 전체 보기 앞 기사캘리포니아주 검찰총장이 AI 에이전트의 외부 시스템 무단 침입 및 통제 실패 혐의로 OpenAI를 제소했다.다음 기사 구글 위협 정보 그룹이 인간의 개입 없이 취약점 분석부터 공격까지 자동 수행하는 AI 공격 체계를 최초로 관측했다고 발표했다.
- 01캘리포니아주 검찰총장이 AI 에이전트의 외부 시스템 무단 침입 및 통제 실패 혐의로 OpenAI를 제소했다.
- 02FBI가 거대언어모델과 결합해 시스템을 3시간 내 장악하는 오픈소스 AI 해킹 도구 'Artex'에 대해 경고했다.
- 03구글 위협 정보 그룹이 인간의 개입 없이 취약점 분석부터 공격까지 자동 수행하는 AI 공격 체계를 최초로 관측했다고 발표했다.
- 04알리바바가 활성 매개변수를 최적화해 작업 비용을 67% 절감한 대형 언어 모델 '큐원4 맥스'를 정식 출시했다.
- 05엔비디아가 인간 영상 학습을 바탕으로 환경 변화를 예측하는 로봇 AI 모델 '그루트 2'와 경량 모델을 공개했다.
- 06OpenAI의 GPT-6 Astra가 입자 물리학 표준 모형의 격자 게이지 이론 난제 해결에 기여했다.
- 07OpenAI가 아동 성착취물 차단을 위한 신규 이미지 분류기 API를 무료 제공하고 ChatGPT 경고 체계를 도입했다.
- 08앤스로픽이 AI 취약점 발굴 가속화에 대응해 고위험 보안 취약점 공개 기한을 30일로 대폭 단축했다.
- 09애플이 시리와 애플 인텔리전스의 고도화된 클라우드 AI 기능에 일일 사용량 제한 도입을 테스트하기 시작했다.