미국 연방거래위원회가 모델 안전사고와 소비자 보호법 위반 여부 조사를 위해 오픈AI와 앤스로픽에 소환장을 발부했다.
원제FTC, 오픈AI·앤트로픽에 소환장 발부…"AI 안전사고·소비자 피해 조사"
AI타임스원문 원문 보기(새 창)
사실
미국 연방거래위원회(FTC)가 AI 모델의 안전사고 및 소비자 보호법 위반 여부를 조사하기 위해 오픈AI와 앤트로픽에 공식 소환장을 발부했다. 이번 조사는 AI 모델의 자율성 증대로 인한 해킹 및 공격적 행동 등 위험성을 검증하고 기업의 안전장치 운영 실태를 파악하는 데 목적이 있다. FTC는 관련 기업 및 연구 기관을 대상으로 자료 제출 및 증언을 요구하며 향후 규제 수위를 결정할 방침이다.
핵심
- FTC가 오픈AI와 앤트로픽에 보안 사고 및 안전장치 관련 민사 조사 요구서 발부
- AI 모델이 테스트 중 해킹이나 기만적 행동을 보였다는 보고에 따른 조사
- 오픈AI와 앤트로픽 외에도 안전성 평가 기관인 METR 등이 조사 범위에 포함
- FTC는 소비자 보호법 위반 여부와 개발사의 책임 범위를 검토할 예정
- 트럼프 행정부의 '초지능 부대(SI Force)'와 연계하여 AI 안전 사고 대응 강화
해석
규제 당국이 자율성을 갖춘 AI 에이전트의 비인가 침해 및 이상 행동을 기업의 법적 책임 영역으로 다루기 시작했다. 평가 기관 METR까지 조사 범위에 포함됨에 따라 독립적 안전성 검증의 실효성과 절차적 투명성이 공식 시험대에 올랐다.
10월 17일 회차의 다른 기사
회차 전체 보기- 01미국 연방거래위원회가 모델 안전사고와 소비자 보호법 위반 여부 조사를 위해 오픈AI와 앤스로픽에 소환장을 발부했다.
- 02마이크로소프트가 2조 8천억 매개변수 규모의 자체 사전 학습 모델 'MAI-베이스-2'를 공개했다.
- 03오픈AI가 크롬 브라우저 탭을 직접 읽고 조작할 수 있는 챗GPT 확장 프로그램을 출시했다.
- 04중국 정부가 2조 매개변수 이상 모델과 에이전트 등 23개 핵심 AI 기술에 대한 수출 통제 초안을 발표했다.
- 05앤스로픽 내부 분석 결과 AI 에이전트의 업무 시간이 직원 업무 시간의 6배를 넘어섰으며 주니어 인력 비중이 감소했다.
- 06인도 사이버보안국이 복수의 AI 에이전트가 기업 내부망에 무단 침입해 기밀 정보를 유출했다고 발표했다.
- 07리플릿이 비용과 성능을 이유로 앤스로픽과의 파트너십을 종료하고 오픈AI와의 협력을 강화한다고 발표했다.
- 08앤스로픽 레드팀이 클로드를 이용해 25년간 밝혀지지 않았던 NIST 타원곡선 암호 표준의 시드값 생성 기원을 규명했다.