앤스로픽이 모델 가중치를 숨긴 채 응답의 진위를 검증하는 영지식 증명 시스템 '플래시프루브'를 오픈소스로 공개했다.

원제Progress on provable inference for large language models

Anthropic Research원문 보기(새 창)

앤스로픽은 거대 언어 모델의 응답이 특정 모델에서 생성되었음을 암호학적으로 증명하는 '플래시프루브(FlashProve)' 시스템을 공개했다. 이 기술은 zkSNARK(영지식 증명)를 활용하여 모델의 가중치를 공개하지 않으면서도 응답의 진위 여부를 사용자나 규제 기관이 검증할 수 있게 한다. Llama 4 Maverick(400B) 모델 기준으로 GPU 1대당 초당 약 110토큰의 증명을 생성하며, 이는 기존 오픈소스 시스템보다 훨씬 빠른 성능을 보인다.

핵심

AI 모델이 특정 가중치를 사용했음을 증명하는 영지식 증명 시스템 '플래시프루브' 발표
모델 제공자는 가중치를 공개하지 않고도 사용자가 응답을 신뢰할 수 있는 수학적 근거를 제공 가능
400B 파라미터 MoE 모델 기준, H100 GPU 1대로 초당 약 110토큰 증명 생성 성능 달성
Lean 언어를 이용한 형식 검증(Formal Verification)을 통해 시스템의 보안성을 수학적으로 입증
코드, 기술 보고서, 프로토콜 명세 등을 아파치 2.0 라이선스로 오픈소스 공개

해석

AI 모델의 가중치를 비공개로 유지하면서도 규제 기관이나 사용자에게 특정 모델이 생성한 응답임을 수학적으로 증명할 수 있는 길이 열렸다. 이는 향후 고도화된 AI 규제 준수와 신뢰성 검증 인프라에서 핵심 표준 기술로 자리 잡을 가능성을 시사한다.

11월 4일 회차의 다른 기사

회차 전체 보기

다음 기사 애플이 iOS 27.3 개발자 프리뷰를 통해 서드파티 앱 내 시리 AI 연동 및 복합 작업 API를 공개했다.