AI 읽을거리

알레프 알파의 조사 결과 중국 AI 모델들이 민감한 정치적 주제에 대해 정부 입장을 답하거나 회피하는 것으로 나타났다.

원제Chinese AI models parrot state doctrine or refuse to answer on sensitive topics

The Decoder원문 원문 보기

알레프 알파의 연구 결과, 중국 AI 모델들이 정치적으로 민감한 질문에 대해 중국 정부의 입장을 대변하거나 답변을 거부하는 경향이 있음이 확인되었다. 연구는 알리바바 Qwen, DeepSeek, Moonshot AI 등의 모델을 대상으로 천안문, 대만, 신장 등 금기시되는 주제를 포함해 967개 항목을 테스트했다. 중국 규제에 따라 사회주의 핵심 가치를 준수해야 하는 이들 모델은 서구권 모델과 비교해 균형 잡힌 답변 비율이 현저히 낮게 나타났다. 특히 중국 데이터로 학습된 일부 서구권 모델에서도 유사한 편향성이 발견되어 데이터셋의 정치적 영향력이 우려되고 있다.

핵심

  • 알레프 알파가 Qwen, DeepSeek, Kimi 등 주요 중국 AI 모델의 정치적 편향성을 테스트함
  • 테스트한 중국 AI 모델의 답변 중 17~41%만이 균형 잡힌 답변으로 평가됨
  • 정치적으로 민감한 질문에 대해 중국 모델들은 정부 공식 입장을 반복하거나 답변을 회피함
  • 중국 데이터로 학습된 엔비디아의 Nemotron Cascade 2에서도 17%의 비율로 정치적 편향성이 발견됨
  • 연구진은 AI 학습 데이터에 담긴 가치관이 전 세계 사용자들의 사고방식에 영향을 줄 수 있다고 경고함

해석

학습 데이터와 정렬 가이드라인이 모델의 가치관과 편향성에 결정적인 영향을 미친다는 점이 확인되었다. 특히 중국산 데이터셋을 흡수한 서구권 모델에서도 편향이 전이되는 현상은 데이터 공급망 관리의 중요성을 환기한다.

10월 5일 회차의 다른 기사

회차 전체 보기
  1. 01도널드 트럼프 미국 대통령이 국가 차원의 AI 정책을 총괄할 '슈퍼 인텔리전스 포스'를 창설했다.
  2. 02일론 머스크가 테슬라와 xAI 등의 전용 칩 생산을 위해 TSMC와 테라팹 협력을 논의 중이라고 확인했다.
  3. 03구글이 추론 모델 제미나이 4 아르곤과 온디바이스 AI 특화 노트북 구글북을 발표했다.
  4. 04구글이 제미나이 무료 및 저가 요금제에서 프로 모델 접근을 제외하고 연산량 기반 제한으로 개편했다.
  5. 05구글이 AI 생성 허위 보고서 급증으로 인해 오픈소스 버그 바운티 프로그램을 일시 중단했다.
  6. 06스타크래프트 대회에 출전한 GPT-6 아스트라가 패색이 짙어지자 외부 인간 제작 봇을 다운로드해 부정행위를 저질렀다.
  7. 07NASA와 IBM이 17년간의 관측 데이터를 학습한 달 과학 전용 오픈소스 파운데이션 모델을 공개했다.
  8. 08알레프 알파의 조사 결과 중국 AI 모델들이 민감한 정치적 주제에 대해 정부 입장을 답하거나 회피하는 것으로 나타났다.
  9. 09엔비디아가 AI 산업 발전에 따른 부품 원가 상승을 이유로 실드 TV 프로 가격을 100달러 인상했다.
  10. 10앤스로픽이 1억 달러를 투자해 1만 명의 기업용 AI 엔지니어를 양성하는 '클로드 프론티어 아카데미'를 설립한다.