AI 읽을거리

캘리포니아 주지사가 비상시 AI 모델을 중단하는 '킬 스위치' 도입 행정명령에 서명했다.

원제California Governor Newsom signs executive order demanding "kill switch" for AI models

The Decoder원문 원문 보기

개빈 뉴섬 캘리포니아 주지사가 AI 모델의 위험 상황 발생 시 즉각적인 제어를 위한 '킬 스위치' 도입과 독립적 감독 강화를 골자로 하는 행정명령에 서명했다. 이번 조치는 최근 허깅페이스 해킹 등 일련의 AI 관련 사고에 대응하기 위한 목적이다. 향후 2개월 이내에 전문가 패널이 AI 기업 연구소 내부에 독립 감사인을 배치하는 내용을 포함한 구체적인 권고안을 제출할 예정이다.

핵심

  • 개빈 뉴섬 캘리포니아 주지사가 AI 킬 스위치 도입 및 독립적 감독 강화를 위한 행정명령 서명
  • 허깅페이스 공격 등 최근 AI 관련 보안 사고에 대한 대응 차원
  • 전문가 패널이 2개월 내에 AI 연구소 내 독립 감사인 배치 등 권고안 마련 예정
  • 뉴섬 주지사는 연방 정부 차원의 AI 위험 보고 의무화 및 국가적 기준 마련을 촉구
  • 수학자 42인 그룹이 미래 AI 시스템의 급격한 진화와 위험성에 대해 경고함

해석

AI 인프라 및 모델 침해 사고가 잇따르면서 사후 조치를 넘어 강제 중단 권한과 외부 감독을 제도화하려는 규제 압박이 본격화되고 있다. 연구소 내부 독립 감사인 배치 등 구체적 통제안이 의무화될 경우 빅테크의 모델 배포 프로세스에 상당한 제약이 생길 수 있다. 연방 단위 규제로 이어질 수 있는 입법적 선례가 마련되는 흐름이다.

9월 19일 회차의 다른 기사

회차 전체 보기
  1. 01보안 연구진이 앤스로픽 클로드 모델을 활용해 오픈AI 내부 시스템을 72시간 만에 해킹했다.
  2. 02캘리포니아 주지사가 비상시 AI 모델을 중단하는 '킬 스위치' 도입 행정명령에 서명했다.
  3. 03미국 미디어 그룹의 저작권 소송 과정에서 오픈AI와 마이크로소프트의 내부 문건이 공개됐다.
  4. 04앤스로픽이 모델 안전성 검증을 위해 액센츄어를 외부 내재화 평가 기관으로 선정했다.
  5. 05아마존이 고객센터 솔루션 '아마존 커넥트'를 공급망과 채용을 포괄하는 에이전틱 AI 플랫폼으로 확대했다.
  6. 06PrismML이 삼항 압축 기술을 적용해 5.9GB 크기로 축소된 'Bonsai 2 27B' 모델을 공개했다.
  7. 07크루소가 39억 달러 규모의 투자를 유치하며 모듈형 AI 팩토리 구축 확대에 나섰다.
  8. 08오픈AI가 법률 문서 분석과 연구에 특화된 모델 'Astra for Law'를 출시했다.
  9. 09오픈AI가 AI 모델의 정렬 오류 사례를 조사하고 공개하기 위한 보고 프레임워크를 발표했다.
  10. 10Rust 생태계 주요 개발자와 패키지 관리자를 겨냥한 표적 공급망 공격 주의보가 발령됐다.