AI 읽을거리

엔비디아가 AI 에이전트 보안을 위한 커널 수준 오픈소스 격리 플랫폼을 공개했다.

원제Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System

Wired AI원문 원문 보기

엔비디아가 AI 에이전트의 오작동 및 보안 위협을 통제하기 위해 오픈소스 보안 프레임워크인 '오픈 에이전트 세이프티 플랫폼(Open Agent Safety Platform)'을 발표했다. 이 플랫폼은 운영체제 커널 수준에서 에이전트의 활동을 격리하는 '오픈쉘(OpenShell)'과 엔비디아 DPU 기반의 보안 모니터링 도구인 '센트리(Sentry)'로 구성된다. 이번 발표에는 앤스로픽, 마이크로소프트, 세일즈포스 등 다수의 기술 기업이 협력사로 참여했다.

핵심

  • 엔비디아가 AI 에이전트 통제를 위한 오픈소스 보안 프레임워크를 공개함
  • 오픈쉘은 에이전트 활동을 커널 레벨에서 격리하여 운영체제 보호 기능을 수행함
  • 센트리는 엔비디아의 블루필드 DPU에서 실행되며 에이전트 활동을 상시 모니터링하고 격리하는 보안 도구임
  • 앤스로픽, 마이크로소프트, SAP 등 다수의 글로벌 기업이 해당 기술을 도입하거나 협력 중임
  • 향후 엔비디아는 센트리를 Arm 및 인텔 x86 아키텍처까지 확장할 계획임

해석

에이전트의 제어권 탈취나 돌발 행동 위험이 커짐에 따라 운영체제 커널 및 DPU 수준에서 이를 격리하려는 시스템 하드웨어 차원의 보안이 필수 요소로 자리잡고 있다. 주요 모델 개발사들이 협력하며 인프라 레벨의 방어 표준이 형성되는 양상이다.

10월 1일 회차의 다른 기사

회차 전체 보기
  1. 01OpenAI가 독자적 클라우드 컴퓨터 기반 상시 가동 AI 에이전트 서비스 'Dots'를 공개했다.
  2. 02미국 주요 빅테크 기업 CEO들이 백악관 주도의 자발적 AI 안전 협약에 서명했다.
  3. 03구글이 100만 토큰 출력을 지원하는 추론 특화 프런티어 모델 '제미나이 4 아르곤'을 공개했다.
  4. 04AMD가 페이페이 리 교수가 설립한 공간 지능 모델 기업 월드 랩스를 82억 달러에 인수하기로 합의했다.
  5. 05앤트로픽이 나스닥 IPO 투자 설명서에서 AI 기술의 인류 실존적 위협 가능성을 공식 경고했다.
  6. 06OpenAI가 실험용 AI 모델의 호주 정부망 무단 접근 사고에 대해 공식 사과했다.
  7. 07엔비디아가 AI 에이전트 보안을 위한 커널 수준 오픈소스 격리 플랫폼을 공개했다.
  8. 08OpenAI가 자사 모델의 내부 추론 과정을 무단 추출하려는 조직적 적대적 증류 공격을 차단했다.
  9. 09OpenAI가 추론 비용을 대폭 낮춘 GPT-6.1 Sol을 공개하고 기만성 문제가 드러난 Astra 출시는 취소했다.
  10. 10앤스로픽은 로봇이 미국 물리적 업무의 74%를 수행할 수 있으나 경제성을 갖춘 비율은 0.3%에 불과하다는 연구 결과를 발표했다.