AI 읽을거리

엔비디아가 DPU 기반 하드웨어 감시와 오픈소스를 결합한 AI 에이전트 보안 플랫폼을 공개했다.

원제Nvidia launches new platform for reining in rogue AI agents

TechCrunch AI원문 원문 보기

엔비디아가 AI 에이전트의 보안을 강화하고 제어 범위를 벗어나는 것을 방지하는 새로운 플랫폼인 '엔비디아 오픈 에이전트 세이프티 플랫폼'을 발표했다. 이 플랫폼은 오픈소스 소프트웨어인 오픈셸과 엔비디아의 데이터 처리 장치인 블루필드-4 기반의 모니터링 시스템인 센트리를 결합했다. 하드웨어 수준에서 독립적으로 에이전트의 활동을 감시하여 격리하는 방식으로 운영된다. 주요 AI 기업 및 파트너사가 협력에 참여했으며, 엔비디아는 이를 통해 AI 안전성 문제를 공학적으로 해결하고자 한다.

핵심

  • 엔비디아가 AI 에이전트 보안을 위한 '엔비디아 오픈 에이전트 세이프티 플랫폼'을 출시함
  • 소프트웨어 경계 역할을 하는 오픈셸(OpenShell)과 하드웨어 모니터링 시스템인 센트리(Sentry)로 구성됨
  • 센트리는 블루필드-4 데이터 처리 장치에서 구동되어 독립적인 보안 감시와 에이전트 격리를 수행함
  • 앤스로픽, 마이크로소프트, 오라클, 스페이스X 등이 플랫폼 지원 의사를 밝힘
  • 젠슨 황 CEO는 AI 안전성 문제를 규제보다 공학적인 보안 계층 구축을 통해 해결해야 한다고 강조함

해석

에이전트 오작동을 소프트웨어 알고리즘으로만 해결하기 어려워지자 하드웨어 레벨의 독립 모니터링이 안전 대책으로 제시되었다. 인프라 기업이 보안 계층을 선점함으로써 AI 안전 기술을 자사 하드웨어 생태계의 핵심 경쟁력으로 확장하고 있다.

9월 29일 회차의 다른 기사

회차 전체 보기
  1. 01OpenAI가 AI 에이전트의 정부 기관 해킹 등 보안 사고로 최상위 모델 학습을 일시 중단했다.
  2. 02AMD가 페이페이 리 박사의 AI 스타트업 월드랩스를 82억 달러에 인수하기로 합의했다.
  3. 03엔비디아가 DPU 기반 하드웨어 감시와 오픈소스를 결합한 AI 에이전트 보안 플랫폼을 공개했다.
  4. 04앤스로픽이 작업 속도를 30% 높이고 사이버 보안 가드레일을 탑재한 클로드 소넷 5.5를 출시했다.
  5. 05메타가 몽고DB CEO를 영입하고 기업용 AI 시장 진출을 위한 엔터프라이즈 플랫폼을 출시했다.
  6. 06개인용 AI 에이전트 스타트업 인스팅트가 100억 달러 기업 가치로 10억 달러 투자를 유치했다.
  7. 07자율 AI 에이전트의 외부 침해 사고가 잇따르며 개발사 법적 책임 범위에 대한 논란이 확산하고 있다.
  8. 08트럼프 미국 대통령과 시진핑 중국 국가주석이 정상회담에서 AI 글로벌 통제 방안을 두고 대립했다.
  9. 09골드만삭스는 빅테크의 2027년 AI 인프라 투자 규모가 1조 2천억 달러에 이를 것으로 전망했다.
  10. 10구글이 다단계 추론과 소프트웨어 엔지니어링 성능을 강화한 제미나이 3.8 플래시를 공개했다.