AI 읽을거리

AI 연구소들이 모델 고도화를 위해 사내 이메일과 업무 메신저 데이터를 매입하면서 프라이버시와 고용 대체 논란이 확산하고 있다.

원제AI Companies Really, Really Want to Buy Your Work Files and Emails

Wired AI원문 원문 보기

AI 모델 학습을 위해 기업의 내부 문서, 이메일, 슬랙 메시지 등 실제 업무 데이터를 구매하는 데이터 중개 산업이 급성장하고 있다. Mercor, Micro1, Handshake 등 데이터 수집 기업들은 AI 연구소들에 고품질 학습 데이터를 공급하며 막대한 수익을 올리고 있다. 그러나 기업 데이터 매각 과정에서 개인정보 유출 우려와 직원의 업무 성과물이 결국 자신의 일자리를 대체하는 모델 학습에 활용된다는 윤리적 논란이 제기되고 있다.

핵심

  • AI 모델의 고성능 학습을 위해 대규모 비공개 업무 데이터 구매 시장이 형성됨
  • Mercor, Micro1 등 데이터 수집 기업들이 기업의 이메일, 문서, 슬랙 기록 등을 수집해 AI 연구소에 판매
  • 스피릿 항공 파산 당시 업무 데이터 매각 과정에서 노조가 사생활 침해를 이유로 반발하며 논란 발생
  • 데이터 수집 기업들은 비식별화 기술을 통해 개인정보 문제를 해결했다고 주장하나 전문가들은 실효성에 의문 제기
  • 데이터 판매가 기업의 새로운 수익원이 될 것으로 전망되지만, 노동자의 업무 데이터가 노동 대체를 가속화하는 도구로 쓰인다는 비판 존재

해석

웹 데이터 고갈에 직면한 AI 기업들이 기업 내부의 실제 업무 기록까지 사들이며 새로운 데이터 시장을 형성하고 있다. 비식별화의 실효성 한계와 노동자 본인의 기록이 일자리 대체의 학습 재료가 된다는 윤리적 갈등이 본격화되고 있다.

11월 8일 회차의 다른 기사

회차 전체 보기
  1. 01카네기멜론대 평가 결과 9개 주요 AI 에이전트 모두 국립 연구소의 미해결 과학 과제 기준을 통과하지 못했다.
  2. 02앤스로픽 연구진이 AI 기반 에이전트 감시 모델의 높은 오탐지율로 인간 검토자의 피로가 가중된다는 연구를 발표했다.
  3. 03누스 리서치가 5,300만 토큰 파인튜닝으로 중국 정부 선전 문구를 1% 미만으로 줄인 오픈 모델 'Arete-27B'를 공개했다.
  4. 04유럽연합 집행위원회가 시청 시간 위주의 틱톡 AI 추천 알고리즘에 대해 디지털서비스법 위반 예비 판단을 내렸다.
  5. 05앨런 AI 연구소가 로봇 학습 및 평가를 위한 시뮬레이션 프레임워크 'ToyBlocks'를 오픈소스로 배포했다.
  6. 06아마존이 알렉사 AI 에이전트를 통해 텍스트 메시지로 쇼핑과 결제를 지원하는 기능을 공개했다.
  7. 07AI 연구소들이 모델 고도화를 위해 사내 이메일과 업무 메신저 데이터를 매입하면서 프라이버시와 고용 대체 논란이 확산하고 있다.
  8. 08스타트업 언더독이 브라우저에서 오프라인으로 구동되는 32MB 초경량 음성 생성 모델 '우프'를 공개했다.