평범한 AI 도구로 위장해 불법 성적 딥페이크를 생성하는 수백 개 규모의 악성 앱 네트워크가 적발됐다.
원제Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake Features
Wired AI원문 원문 보기(새 창)
사실
중국 개발자들이 운영하는 약 400개 이상의 AI 앱 네트워크가 겉으로는 무해한 도구로 위장하여 불법 딥페이크 생성 기능을 숨겨온 사실이 드러났다. 이 앱들은 사용자에게 반려동물 초상화나 운동 코치 앱으로 접근한 뒤, 특정 조건에서 선정적인 AI 이미지와 영상을 생성하는 인터페이스를 활성화한다. 조사 결과, 해당 네트워크는 메타의 플랫폼을 통해 광고를 집행하고 구글과 애플 앱스토어를 통해 유통되었으며, 개발자들은 앱 승인 이후 콘텐츠를 교체하는 '미끼 전환' 전술을 사용한 것으로 확인되었다.
핵심
- 약 400개의 AI 앱 및 도메인이 겉으로는 평범한 서비스를 표방하며 성적 딥페이크 생성 기능을 숨겨 운영됨
- 해당 앱들은 사용자가 접속하는 환경에 따라 무해한 콘텐츠와 선정적인 딥페이크 인터페이스를 구분해 노출함
- 중국 개발자 및 'KeLing Technology Limited'가 조직적인 운영의 배후로 지목됨
- 메타, 구글, 애플의 정책을 우회하기 위해 승인 후 서버에서 콘텐츠를 교체하는 방식을 사용함
- 관련 광고가 페이스북과 인스타그램 등 메타 플랫폼에서 수만 건 이상 발견되었으며, 아동 성착취물까지 포함됨
해석
반려동물 초상화나 운동 코치 앱으로 앱마켓 심사를 통과한 뒤 조건부로 딥페이크 인터페이스를 노출하는 수법은 기존 앱마켓의 사전 검수 체계가 우회될 수 있음을 보여준다. 주요 소셜 플랫폼의 광고망과 앱 유통 채널이 악용되면서 악성 AI 생성 기능의 유통을 사전에 차단하기 위한 플랫폼 차원의 동적 감시 강화가 시급해졌다.
11월 3일 회차의 다른 기사
회차 전체 보기- 01평범한 AI 도구로 위장해 불법 성적 딥페이크를 생성하는 수백 개 규모의 악성 앱 네트워크가 적발됐다.
- 02뉴욕타임스 등 언론사 연합이 AI 데이터 무단 수집 및 페이월 우회 혐의로 브레이브 브라우저를 제소했다.
- 03앤트로픽의 내부 AI 서비스 사용 가치가 월간 직원 급여 비용을 추월하며 토큰 사용량이 9개월 새 250배 폭증했다.
- 04오픈AI가 시장 냉각과 투자 경쟁 심화로 신규 투자 유치 목표액을 300억 달러에서 200억 달러로 하향 조정했다.
- 05SpaceX가 높은 운영 비용 부담을 이유로 AI 에이전트 Grok Bot의 사용 한도를 대폭 축소했다.
- 06골드만삭스가 위험 관리와 생산성을 이유로 트레이더와 뱅커 등 비엔지니어 직군의 AI 코딩 도구 사용을 제한했다.
- 07스타트업 42AI가 인간의 의사결정 확률을 계산하는 '행동 세계 모델'을 공개하며 6,250만 달러 투자를 유치했다.
- 08OpenAI가 일상적인 복합 업무 수행 능력을 측정하는 새로운 벤치마크 지표 'LifeVal'을 공개했다.
- 09마인크래프트에 투입된 50개의 AI 에이전트 군집이 위기 대응을 위한 복잡한 관료제와 프로토콜을 자율 형성했다.