AI 읽을거리

마이크로소프트가 프런티어 모델의 불확실성에 대응해 AI 에이전트를 감시·제어하는 가디언 에이전트 기능을 발표했다.

원제Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’

TechCrunch AI원문 원문 보기

마이크로소프트가 기업 환경 내 AI 에이전트의 보안 위협을 관리하기 위한 '가디언 에이전트(Guardian Agents)' 기능을 새롭게 도입했다. 사티아 나델라 CEO는 프런티어 모델의 예측 불가능성을 이유로 AI 모델 제공업체를 신뢰하기보다 별도의 독립적인 보안 시스템을 통해 에이전트를 감시해야 한다고 강조했다. 이번 발표는 마이크로소프트의 기존 보안 프로젝트인 '프로젝트 퍼셉션(Project Perception)'의 일환으로, 기업 데이터에 접근하는 AI 에이전트를 모니터링하고 제어하는 데 중점을 둔다.

핵심

  • 마이크로소프트가 기업 내 AI 에이전트 보안을 강화하는 가디언 에이전트 기능을 발표했다.
  • 사티아 나델라 CEO는 프런티어 모델의 예측 불가능성 때문에 AI 공급업체에 대한 무조건적인 신뢰를 멈춰야 한다고 경고했다.
  • 가디언 에이전트는 프로젝트 퍼셉션의 일부로, AI 에이전트를 독립적으로 감시하고 통제하는 기능을 수행한다.
  • 마이크로소프트 디펜더에 클로드 코드, 코덱스 등 60여 종의 에이전트를 식별하고 권한을 조정하는 기능을 추가했다.
  • 마이크로소프트는 엔비디아의 오픈 에이전트 안전 플랫폼에 참여하며 하드웨어 기반의 에이전트 보안을 강화하고 있다.

해석

AI 모델 공급업체를 무조건 신뢰하기보다 에이전트 자체를 내부 보안 위협으로 간주하고 감시하는 아키텍처가 기업 보안의 표준으로 자리잡고 있다. 마이크로소프트 디펜더를 통해 다수 에이전트의 권한을 통제하는 것은 자율 에이전트 운영의 현실적인 안전장치 요구를 반영한다.

10월 20일 회차의 다른 기사

회차 전체 보기
  1. 01미국 국토안보부가 연방 민간기관 내 딥시크 기술 및 이를 활용한 외부 서비스 사용을 전면 금지했다.
  2. 02마이크로소프트가 프런티어 모델의 불확실성에 대응해 AI 에이전트를 감시·제어하는 가디언 에이전트 기능을 발표했다.
  3. 03AWS가 자사 AI 칩 트레이니움에서 파이토치 코드를 즉시 구동할 수 있는 'TorchNeuron'을 공개했다.
  4. 04AI 칩 스타트업 텐스토렌트가 62억 달러 가치 평가를 받으며 15억 달러 규모의 투자를 유치했다.
  5. 05오픈AI가 음성 AI 모델 'GPT-라이브'에 발화 완료 전 동작을 판단하는 '디시전스' API를 연동했다.
  6. 06AI 인프라 기업 코어위브의 채권 수익률이 급등하며 350억 달러 부채에 따른 재무 리스크 우려가 확산되고 있다.
  7. 07중국 미니맥스가 작업당 비용을 0.22달러 수준으로 낮춘 추론 모델 'M3.1 Flash'를 공개했다.
  8. 08Kling AI가 스테레오 오디오와 다국어 립싱크를 지원하는 비디오 생성 모델 4.0 버전을 출시했다.