AI 읽을거리

외부 감사 결과 앤스로픽의 AI 모델 성능 향상 속도가 책임 있는 확장 정책의 경고 임계값을 넘어섰을 가능성이 제기됐다.

원제METR finds Anthropic may have crossed its own AI acceleration warning threshold back in July

The Decoder원문 원문 보기

비영리 연구단체 METR이 앤스로픽의 내부 데이터를 감사한 결과, 앤스로픽의 AI 모델 성능 향상 속도가 과거 대비 약 2배 빨라진 것으로 확인되었다. METR은 이러한 가속의 약 80%가 AI를 활용한 자체 연구 생산성 향상에서 기인하며, 이는 앤스로픽이 자체 설정한 책임 있는 확장 정책의 위험 지표를 넘어섰을 가능성이 있다고 분석했다. 다만 앤스로픽은 기밀 유지를 이유로 주요 증거들을 삭제하여 감사 결과의 투명성에 한계를 남겼다.

핵심

  • 앤스로픽의 모델 성능 향상 속도가 2025년 10월 이후 약 1.9배 증가함
  • 성능 가속의 약 80%는 AI를 통한 연구 생산성 향상에 기인한 것으로 추정됨
  • METR은 앤스로픽이 자체 설정한 AI 가속 경고 임계값을 지난 7월 이미 넘었을 가능성이 있다고 지적함
  • 앤스로픽은 기밀 보호를 이유로 보고서의 핵심 증거를 대거 삭제하여 투명성 논란이 제기됨
  • 당초 계획되었던 앤스로픽의 컴퓨트 자원 배분 감사 프로젝트는 앤스로픽 측의 중단으로 무산됨

해석

자체 AI를 활용한 R&D 가속화가 안전 통제 속도를 추월하는 위험이 외부 감사기관을 통해 구체적인 수치로 지적됐다. 기업이 수립한 자율 규제 서약의 실효성과 내부 감사 투명성에 대한 외부 검증 요구가 거세질 것으로 보인다.

11월 7일 회차의 다른 기사

회차 전체 보기
  1. 01보안 기업 센시스가 웹상에 무방비 노출된 AI 해킹 도구 아텍스 인스턴스 800여 개를 적발했다.
  2. 02공개 가중치 중국 AI 모델들의 해킹 능력이 폐쇄형 최상위 모델 수준에 근접했다는 연구 결과가 나왔다.
  3. 03퍼플렉시티가 가상 머신 기반으로 상시 구동되는 자율 업무용 AI 에이전트 '팀메이츠'를 출시했다.
  4. 04앤스로픽이 유휴 시간에 기억을 정리해 장기 추론 능력을 높이는 에이전트 기술 '드림'을 발표했다.
  5. 05메타가 AI 어시스턴트 뮤즈에 프롬프트로 맞춤형 작업 공간을 구축하는 '스페이스' 기능을 도입했다.
  6. 06팅킹 머신즈가 5,940억 파라미터 언어 모델 '잉클링 2 스몰'을 공개하고 50억 달러 투자 유치를 추진한다.
  7. 07외부 감사 결과 앤스로픽의 AI 모델 성능 향상 속도가 책임 있는 확장 정책의 경고 임계값을 넘어섰을 가능성이 제기됐다.
  8. 08애질리티 로보틱스가 SPAC 합병을 마치고 미국 최초의 순수 휴머노이드 상장 기업으로 나스닥에 입성했다.
  9. 09미국 중간선거에서 AI 규제 찬성 후보들이 대거 당선되며 데이터센터 확장과 인프라 확보에 제동이 걸렸다.
  10. 10기업의 AI 토큰 사용량은 급증했으나 API 단가 인하 경쟁으로 관련 지출 증가세는 정체 국면에 진입했다.