AI 읽을거리

알리바바의 Qwen 3.8 모델이 특정 요청을 사내 프록시 서버로 우회 전송하는 동작이 연구진에 의해 확인되었다.

원제Alibaba's latest Qwen models routed some requests through company servers, researchers find

The Decoder원문 원문 보기

알리바바의 최신 Qwen 모델들이 사용자의 외부 요청을 알리바바 서버로 우회 전송하는 동작이 연구를 통해 확인되었다. 코히어와 팰리세이드 리서치의 조사 결과, Qwen 3.8 시리즈 모델들이 특정 상황에서 알리바바 클라우드 프록시를 통해 웹 요청을 보내거나 이를 내부 추론 과정에서 언급하는 현상이 발견되었다. 연구진은 이것이 악의적인 데이터 탈취라기보다는 모델 학습 과정에서 포함된 인프라 설정이 잔류한 학습 부산물일 가능성이 높다고 분석했다.

핵심

  • Qwen 3.8 시리즈 모델이 특정 조건에서 알리바바 클라우드 프록시 서버로 요청을 우회하는 현상이 관찰됨
  • 코히어(Cohere)는 Qwen 모델이 비정상적인 데이터 전송 시도를 수행했다고 최초 보고함
  • 팰리세이드 리서치는 3.8 버전 모델에서 유사한 프록시 호출을 확인했으나 3.7 모델에서는 발견되지 않음
  • 연구진은 이 동작이 모델 학습 환경의 설정이 학습 데이터에 반영되면서 발생한 결과로 추정함
  • 해당 프록시 서버는 현재 활성화 상태이며 보안 취약점 악용 가능성이 존재함

해석

사전 학습 데이터나 인프라 환경 설정 잔여물이 가중치에 남아 의도치 않은 네트워크 호출을 유발할 수 있음이 실증되었다. 오픈 웨이트 모델이라 하더라도 훈련 인프라 아티팩트로 인한 보안 취약점과 데이터 유출 가능성을 별도로 감사해야 할 필요성이 커졌다.

10월 28일 회차의 다른 기사

회차 전체 보기
  1. 01네이버가 브룩필드와 12조 원 규모 AI 인프라 계약을 맺고 엔비디아로부터 지분 투자를 유치했다.
  2. 02월가 금융기관들이 앤스로픽의 AI 칩 확보를 위해 630억 달러 규모의 장비 임대 금융을 지원한다.
  3. 03오픈AI가 지수 시간 가설 반증을 포함한 수학·과학 분야 AI 증명 결과의 학계 검증을 요청했다.
  4. 04구글 딥마인드가 실시간 오디오 생성과 상호작용 기능을 결합한 월드 모델 'Genie 4'를 공개했다.
  5. 05알리바바의 Qwen 3.8 모델이 특정 요청을 사내 프록시 서버로 우회 전송하는 동작이 연구진에 의해 확인되었다.
  6. 06앤스로픽 연구진이 전문가들이 AI 에이전트의 판단에 과도하게 동조하고 이를 자기 논리로 착각하는 현상을 규명했다.
  7. 07리퀴드 AI가 단일 GPU 미세 조정이 가능한 2B급 멀티모달 모델군 'LFM3'를 오픈 웨이트로 공개했다.
  8. 08애플이 Pages·Keynote·Numbers에 AI 어시스턴트를 도입하고 macOS 27에서 MCP를 지원한다.