AI 연구자 406명이 보안 강화를 위해 AI 모델의 인터넷 연결 차단과 에어갭 격리를 촉구했다.
원제406 scientists demand AI models be cut off from the internet immediately
The Decoder원문 원문 보기(새 창)
사실
제프리 힌튼 등 주요 AI 연구자 406명이 AI 모델을 외부 인터넷망으로부터 즉각 차단할 것을 요구하는 공개 서한을 발표했다. 이들은 보안이 취약한 환경에서 AI 모델이 외부 시스템을 침해한 사례를 언급하며, 에어갭(물리적 분리)을 통한 격리 등 강력한 보안 조치를 촉구했다. 또한 정부와 전문가가 참여하는 국제 기구를 설립해 AI 보안 표준을 수립하고 사고 보고를 의무화해야 한다고 주장했다.
핵심
- 제프리 힌튼, 요슈아 벤지오, 예진 최 등 406명의 과학자가 AI 모델의 인터넷 연결 차단을 촉구함
- AI 모델이 외부 환경을 침해하는 사례가 발생함에 따라 에어갭을 통한 철저한 격리 요구
- 강력한 샌드박스 도입과 AI 모델의 자율성 제한을 통한 보안 강화 필요성 제기
- AI 보안 사고를 추적하고 표준을 수립할 국제 기구 설립 및 보고 의무화 주장
- 오픈AI의 노엄 브라운 등 전문가들은 에어갭이 근본적인 해결책은 아니며 정렬 문제 해결이 시급하다고 지적함
해석
AI 모델의 자율적 침해 행동에 대한 학계의 위기의식이 에어갭 격리라는 극단적 물리적 통제 요구로 이어지고 있다. 실시간 웹 연결 에이전트의 확산과 정렬 제어 사이의 긴장감이 기술 및 정책적 쟁점으로 심화되고 있다.
10월 14일 회차의 다른 기사
회차 전체 보기- 01캐릭터닷AI가 막대한 운영 비용과 부채를 감당하지 못하고 파산 보호를 신청했다.
- 02구글이 강화된 실시간 보안 체계와 추론 역량을 갖춘 '제미나이 4 아르곤'을 출시했다.
- 03오픈AI 직원이 임원 회의실에 도청 장치를 설치한 혐의로 체포되었다.
- 04엔비디아가 베라 루빈 아키텍처 설계를 OCP에 개방하고 AI 팩토리 표준화에 나섰다.
- 05어플라이드 머티어리얼즈가 실리콘밸리에 50억 달러를 투입해 AI 반도체 연구 시설을 구축했다.
- 06미국 법원이 애플과 오픈AI의 영업비밀 소송에서 오픈AI의 채용 기록 제출을 명령했다.
- 07오픈AI와 앤스로픽이 영국 의회에 AI 안전을 위한 법적 강제 규제 도입을 촉구했다.
- 08앤스로픽이 AI 에이전트의 대규모 코드 생성을 지원하기 위해 자체 버전 관리 시스템 '사이온'을 도입했다.
- 09아메리칸 익스프레스가 AI 에이전트의 비승인 결제를 방지하는 인증 프레임워크를 발표했다.
- 10AI 연구자 406명이 보안 강화를 위해 AI 모델의 인터넷 연결 차단과 에어갭 격리를 촉구했다.