AI 읽을거리

유럽연합 집행위원회가 시청 시간 위주의 틱톡 AI 추천 알고리즘에 대해 디지털서비스법 위반 예비 판단을 내렸다.

원제EU, 틱톡 AI 추천 알고리즘에 제동…정신건강 위협하는 반복 추천에 디지털서비스법 위반 예비 판단

인공지능신문원문 원문 보기

유럽연합(EU)이 틱톡의 추천 알고리즘이 이용자의 정신건강을 해치는 '래빗홀 효과'를 유발한다며 디지털서비스법(DSA) 위반 예비 판단을 내렸다. 위원회는 틱톡이 특정 콘텐츠 반복 노출 위험을 충분히 평가하지 않았고, 이용자의 명시적 의사보다 시청 시간을 우선하는 알고리즘 설계를 문제 삼았다. 이번 조치는 플랫폼의 알고리즘 운영 책임과 이용자 보호 의무를 강화하는 강력한 규제 사례가 될 전망이다.

핵심

  • EU 집행위원회가 틱톡의 개인화 추천 알고리즘이 정신건강에 부정적인 영향을 미친다고 예비 판단함
  • 이용자의 시청 시간만을 기반으로 유사 콘텐츠를 반복 추천하는 래빗홀 효과가 주요 위반 지적 사항임
  • 관심 없음 기능 등 기존 보호조치가 실효성이 부족하며, 알고리즘 설계 변경을 요구함
  • 디지털서비스법(DSA) 위반 확정 시 전 세계 연간 매출액의 최대 6%까지 과징금이 부과될 수 있음
  • EU는 메타의 페이스북과 인스타그램 등 다른 빅테크 플랫폼에 대해서도 유사한 조사를 진행 중임

해석

체류 시간을 극대화하는 추천 알고리즘의 자극적 반복 노출 구조에 규제 당국이 법적 제동을 걸었다. 향후 빅테크 소셜 플랫폼 전반의 추천 엔진 설계 방식과 알고리즘 투명성 의무가 크게 강화될 수 있다.

11월 8일 회차의 다른 기사

회차 전체 보기
  1. 01카네기멜론대 평가 결과 9개 주요 AI 에이전트 모두 국립 연구소의 미해결 과학 과제 기준을 통과하지 못했다.
  2. 02앤스로픽 연구진이 AI 기반 에이전트 감시 모델의 높은 오탐지율로 인간 검토자의 피로가 가중된다는 연구를 발표했다.
  3. 03누스 리서치가 5,300만 토큰 파인튜닝으로 중국 정부 선전 문구를 1% 미만으로 줄인 오픈 모델 'Arete-27B'를 공개했다.
  4. 04유럽연합 집행위원회가 시청 시간 위주의 틱톡 AI 추천 알고리즘에 대해 디지털서비스법 위반 예비 판단을 내렸다.
  5. 05앨런 AI 연구소가 로봇 학습 및 평가를 위한 시뮬레이션 프레임워크 'ToyBlocks'를 오픈소스로 배포했다.
  6. 06아마존이 알렉사 AI 에이전트를 통해 텍스트 메시지로 쇼핑과 결제를 지원하는 기능을 공개했다.
  7. 07AI 연구소들이 모델 고도화를 위해 사내 이메일과 업무 메신저 데이터를 매입하면서 프라이버시와 고용 대체 논란이 확산하고 있다.
  8. 08스타트업 언더독이 브라우저에서 오프라인으로 구동되는 32MB 초경량 음성 생성 모델 '우프'를 공개했다.