앤스로픽과 OpenAI가 모델 개발 과정에 외부 안전성 평가기관의 상주를 추진한다.

핵심

• 앤스로픽과 오픈AI가 모델 개발 및 훈련 과정에 제3자 안전성 평가기관을 상주시키는 계획을 수립함
• 기존의 최종 모델 검증 방식에서 벗어나 훈련 체크포인트와 내부 로그 등 심층 데이터 접근권을 제공할 방침
• 평가기관들은 기업이 통제권을 내려놓고 독립적인 보고를 보장해야 실질적인 감시가 가능하다고 지적함
• 과거 오픈AI의 사례처럼 짧은 평가 기간과 엄격한 NDA가 평가의 독립성을 저해했다는 비판이 제기됨
• 메타, xAI, 구글 딥마인드 등 타 기업들은 아직 해당 방안에 동참하지 않았으며, EU AI법 및 캘리포니아 법률 등 제도적 움직임이 뒤따르는 중