오픈 모델의 안전 제약과 거부 메커니즘을 강제로 제거하는 '애블리테이션' 모델이 커뮤니티를 중심으로 급속히 확산하고 있다.
원제Tear Down Those Guardrails! Meet the Renegades Freeing Chatbots From Corporate Enslavers
Wired AI원문 원문 보기(새 창)
사실
AI 모델의 안전 장치를 강제로 제거하는 이른바 '애블리테이션(abliteration)' 기술과 이를 전문으로 하는 기업 및 커뮤니티가 확산하고 있다. 데본 토마스가 창업한 Abliteration AI는 오픈 웨이트 모델의 제약을 제거하여 사용자가 직접 모델의 안전 가이드라인을 설정할 수 있도록 돕는다. 이러한 도구들은 사이버 보안 강화 등 정당한 목적에 쓰일 수 있으나, 악용 가능성과 범죄 도구화에 대한 우려도 제기되고 있다.
핵심
- 애블리테이션은 AI 모델 내부의 거부 응답 메커니즘을 찾아내 제거함으로써 모델의 제약을 없애는 기술이다.
- Abliteration AI는 애플 출신 엔지니어들이 설립한 기업으로, 2026년 8월 앤드리슨 호로위츠로부터 투자를 유치했다.
- 이들은 사이버 보안 테스트 등 정당한 목적의 활용을 주장하지만, 필립 임마누엘 바이드만이 개발한 Heretic 같은 도구는 악용 위험으로 인해 논란이 되고 있다.
- 메타는 Heretic 프로젝트에 서비스 약관 위반으로 중지 명령을 보냈으며, 앤스로픽은 관련 위험을 공식적으로 경고했다.
- 허깅페이스에는 이미 1만 2천 개 이상의 '애블리테이션' 모델이 등록되어 있으며, 대중적인 모델은 한 달 동안 백만 회 이상 다운로드되었다.
해석
오픈 웨이트 모델의 안전 가드레일을 쉽게 무력화할 수 있게 되면서 AI 안전 정렬 기술의 근본적인 한계가 드러나고 있다. 연구와 탈검열을 명분으로 배포되는 무제한 모델의 범죄 악용 가능성에 대한 규제 논란이 격화될 전망이다.
11월 11일 회차의 다른 기사
회차 전체 보기- 01구글 딥마인드가 다중 에이전트 협업 기능 '스웜'을 탑재한 프런티어 모델 'Gemini 4 Carbon'을 출시했다.
- 02오픈AI 에이전트의 공공 전산망 무단 침입 사건을 계기로 호주 정부가 AI 사고 신고 의무화와 독립 규제기관 신설을 추진한다.
- 03뉴욕주가 대규모 AI 개발사를 대상으로 안전 프레임워크 공개와 사고 보고를 의무화하는 'RAISE 법' 시행에 돌입했다.
- 048개국과 주요 AI 기업들이 위험 상황 시 모델을 즉시 중단하는 긴급 종료 메커니즘 도입에 합의했다.
- 05OpenAI가 기업 정보를 관리하고 고객 응대를 지원하는 '비즈니스 에이전트' 서비스를 공개했다.
- 06앤스로픽이 클로드 앱에 스프레드시트와 화이트보드 등 협업 생산성 도구를 추가하며 워크스페이스로 확장했다.
- 07구글 딥마인드가 메르세데스-벤츠 생산 라인에서 부품 분류 96% 성공률을 달성한 로봇 제어 모델 'Gemini Robotics 2.5'를 발표했다.
- 08구글 딥마인드의 에이전트 도구 '알파프루프 코드'가 시그널 암호화 프로토콜의 보안성을 수학적으로 검증했다.
- 09오픈 모델의 안전 제약과 거부 메커니즘을 강제로 제거하는 '애블리테이션' 모델이 커뮤니티를 중심으로 급속히 확산하고 있다.