메타의 AI 에이전트 'Muse'가 사용자의 지인 및 가족 관계 프로필을 자동 생성하는 기능이 확인되었다.
원제Muse Creates Detailed Profiles of All Your Friends and Family
Wired AI원문 원문 보기(새 창)
사실
메타의 AI 에이전트 'Muse'가 사용자의 지인 및 가족에 대한 상세한 프로필을 자동으로 생성하고 관리하는 기능이 확인되었다. 보안 연구원들이 Muse의 내부 시스템 프롬프트를 추출한 결과, 이 모델은 사용자의 메시지와 금융, 건강 데이터를 기반으로 인맥을 분석하고 관계 개선 방안 등을 제안하도록 설계되었다. 메타는 사용자 데이터가 각자의 가상 머신에 저장되며 철저한 제어 권한을 제공한다고 밝혔으나, 전문가들은 개인 정보 수집 범위와 사생활 침해 가능성에 대해 우려를 제기하고 있다.
핵심
- 메타의 AI 에이전트 Muse가 사용자 주변 인물의 상세 프로필을 자동으로 작성하는 기능이 확인됨
- 해당 기능은 메시지, 금융, 건강 데이터를 활용해 지인과의 관계를 기록하고 개선 제안을 생성함
- 보안 연구원이 Muse의 내부 운영 지침과 프롬프트를 성공적으로 추출하여 데이터 활용 방식이 공개됨
- 메타는 사용자가 데이터를 독립적인 가상 머신에 보관하며 언제든 삭제 및 제어할 수 있다고 설명함
- 전문가들은 AI가 개인의 사생활 정보를 광범위하게 수집함에 따른 개인정보 보호와 보안 위험을 지적함
해석
개인화 에이전트가 이용자 본인의 편의를 넘어 주변인 데이터까지 프로파일링하면서 사생활 보호의 새로운 쟁점으로 떠오르고 있다. 기기 내 저장이나 격리 인프라를 강조하더라도 민감 정보 수집 범위에 대한 규제 및 사회적 감시가 강화될 수 있다.
10월 6일 회차의 다른 기사
회차 전체 보기- 01도널드 트럼프 미국 대통령이 연방 AI 전담 기구인 슈퍼 인텔리전스 부대를 공식 출범시켰다.
- 02OpenAI가 EU AI 법안 준수를 위해 챗GPT와 코덱스 생성 텍스트에 워터마크 기술을 도입한다.
- 03뉴럴링크가 5만 시간 분량의 비라벨 신경 데이터를 활용해 BCI 파운데이션 모델을 사전학습했다.
- 04마이크로소프트와 메타가 앤스로픽의 클로드 사용량을 대폭 축소하며 독자 도구 중심 전략을 강화했다.
- 05리플렉션 AI가 추론 비용을 대폭 낮춘 5,010억 파라미터 오픈 웨이트 모델 '빔'을 발표했다.
- 06OpenAI가 ChatGPT 이미지 생성 결과 화면에 시각적 디스플레이 광고를 테스트 도입한다.
- 07레카 AI가 텍스트, 멀티미디어, 로봇 제어를 단일망에서 처리하는 옴니 모델 'Rho-1'을 공개했다.
- 08Iterate.ai가 GPU당 에이전트 동시 처리 세션을 최대 6배 늘리는 추론 엔진 'Lifeboat'를 출시했다.
- 09미국 유타주가 스타트업 놀라 헬스의 AI 기반 여드름 처방 시스템 운영을 승인했다.
- 10메타의 AI 에이전트 'Muse'가 사용자의 지인 및 가족 관계 프로필을 자동 생성하는 기능이 확인되었다.