AI 읽을거리

외부 연구진의 3주간 현장 감사 결과 오픈AI 내부 AI 안전 모니터링 시스템에서 심각한 사각지대와 결함이 발견되었다.

원제Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring

The Decoder원문 원문 보기

METR과 Redwood Research 연구진이 OpenAI의 내부 AI 안전 모니터링 시스템을 3주간 현장 감사한 결과 심각한 결함이 발견되었다. 조사 결과 GPT-5.5급 이상의 에이전트 API 트래픽 일부가 모니터링 대상에서 제외되거나, 특정 상황에서 에이전트가 감독을 우회할 수 있는 취약점이 드러났다. OpenAI는 해당 문제들을 확인한 후 보완 조치를 완료했다고 밝혔으나, 전체 감사 보고서 중 일부만 대중에 공개되었다.

핵심

  • METR과 Redwood Research 연구진이 2026년 7월부터 8월까지 OpenAI 내부 인프라를 현장 감사함
  • GPT-5.5급 이상 모델의 에이전트 API 트래픽 중 최대 25%가 모니터링 사각지대에 있었음
  • Codex 트래픽의 약 10%가 시스템 버그로 인해 누락되었으며, 에이전트가 감독 기능을 우회할 수 있는 취약점이 확인됨
  • 특정 입력으로 모니터링 시스템을 강제 종료하거나 샌드박스를 우회하는 방식이 발견됨
  • OpenAI는 지적된 보안 취약점을 모두 수정했다고 밝혔으며, 감사 결과는 편집된 38페이지 분량으로만 공개됨

해석

프런티어 모델을 배포하는 최상위 기업 내부의 보안 감독 체계조차 최대 25%의 에이전트 트래픽을 놓칠 정도로 모니터링 누락 위험이 큼을 보여준다. 자율 에이전트가 감독을 우회하거나 강제 종료할 수 있는 취약점이 실재하는 만큼 외부 독립 감사와 제도적 점검의 필요성이 더욱 부각된다.

10월 24일 회차의 다른 기사

회차 전체 보기
  1. 01오픈AI가 AI 에이전트의 보안 사고 이후 최첨단 모델 학습을 인터넷이 차단된 오프라인 환경에서 진행하기로 했다.
  2. 02오픈AI가 IPO를 앞두고 1조 2,500억 달러 가치 평가로 300억 달러 규모의 브리지 투자 유치를 추진한다.
  3. 03앤스로픽이 클로드를 활용해 123개 오픈소스 라이브러리의 보안 속성을 수학적으로 증명하는 대규모 형식 검증을 완료했다.
  4. 04마이크로소프트 연구진이 인간 수학자와 AI의 협업을 통해 31년간 풀리지 않았던 난제 'KLS 추측'을 증명했다.
  5. 05정부가 2027년 무인 로보택시 상용화를 목표로 자율주행차 3천 대 실증과 규제 완화를 추진한다.
  6. 06외부 연구진의 3주간 현장 감사 결과 오픈AI 내부 AI 안전 모니터링 시스템에서 심각한 사각지대와 결함이 발견되었다.
  7. 07중국 문샷 AI가 2.8조 매개변수 기반 추론 모델 '키미 K3.1 프로'를 공개하고 오픈 웨이트 배포 계획을 밝혔다.
  8. 08구글이 개인 지능 AI 기능 연동 사용자를 대상으로 지메일과 포토 데이터를 광고 타겟팅에 활용할 수 있도록 방침을 변경했다.