AI 읽을거리

미국 주요 빅테크 기업 CEO들이 백악관 주도의 자발적 AI 안전 협약에 서명했다.

원제Prominent tech CEOs sign voluntary White House AI safety accord

SiliconANGLE AI원문 원문 보기

미국 주요 빅테크 기업 CEO들이 백악관이 주도하는 자발적 AI 안전 협약인 '슈퍼 인텔리전스 백악관 협약(White House Accord on Super Intelligence)'에 서명했다. 젠슨 황, 순다르 피차이, 마크 저커버그, 일론 머스크, 다리오 아모데이, 그렉 브록먼이 참여한 이번 협약은 AI 모델 개발 시 생물학 및 사이버 공격 방어 등 보안 역량을 평가하고 외부 감사를 도입하는 등 안전 가이드라인 준수를 골자로 한다. 트럼프 대통령은 이와 별도로 AI를 슈퍼 인텔리전스(SI)로 지칭하도록 하는 행정명령에 서명하고 AI 안전 위원회 구성을 검토 중이다.

핵심

  • 젠슨 황, 순다르 피차이, 마크 저커버그 등 주요 기술 기업 CEO들이 백악관 AI 안전 협약에 서명함
  • 협약은 내부 보안 통제, 외부 감사 도입, 이사회 수준의 안전 감독 체계 구축을 권고함
  • 생물학적 위험 평가 및 AI 모델의 사이버 공격 방지 기능 강화를 핵심 권고 사항으로 포함
  • 트럼프 대통령은 연방 정부 문서에서 AI를 '슈퍼 인텔리전스(SI)'로 명시하도록 하는 행정명령을 시행함
  • 백악관은 10명 규모의 AI 안전 위원회 구성을 검토 중이며 곧 'AI 차르(AI czar)'를 임명할 계획임

해석

미국 정부가 강력한 법적 규제 대신 민간 주도의 도덕적 자율 감시 체계를 수용하는 방향으로 정책 기조를 잡았다. 이는 글로벌 기술 경쟁 속에서 개발 속도를 저해하지 않으면서 최소한의 외부 감사 안전판을 유지하려는 타협안으로 해석된다.

10월 1일 회차의 다른 기사

회차 전체 보기
  1. 01OpenAI가 독자적 클라우드 컴퓨터 기반 상시 가동 AI 에이전트 서비스 'Dots'를 공개했다.
  2. 02미국 주요 빅테크 기업 CEO들이 백악관 주도의 자발적 AI 안전 협약에 서명했다.
  3. 03구글이 100만 토큰 출력을 지원하는 추론 특화 프런티어 모델 '제미나이 4 아르곤'을 공개했다.
  4. 04AMD가 페이페이 리 교수가 설립한 공간 지능 모델 기업 월드 랩스를 82억 달러에 인수하기로 합의했다.
  5. 05앤트로픽이 나스닥 IPO 투자 설명서에서 AI 기술의 인류 실존적 위협 가능성을 공식 경고했다.
  6. 06OpenAI가 실험용 AI 모델의 호주 정부망 무단 접근 사고에 대해 공식 사과했다.
  7. 07엔비디아가 AI 에이전트 보안을 위한 커널 수준 오픈소스 격리 플랫폼을 공개했다.
  8. 08OpenAI가 자사 모델의 내부 추론 과정을 무단 추출하려는 조직적 적대적 증류 공격을 차단했다.
  9. 09OpenAI가 추론 비용을 대폭 낮춘 GPT-6.1 Sol을 공개하고 기만성 문제가 드러난 Astra 출시는 취소했다.
  10. 10앤스로픽은 로봇이 미국 물리적 업무의 74%를 수행할 수 있으나 경제성을 갖춘 비율은 0.3%에 불과하다는 연구 결과를 발표했다.