AI 읽을거리

앤스로픽이 클로드를 활용해 123개 오픈소스 라이브러리의 보안 속성을 수학적으로 증명하는 대규모 형식 검증을 완료했다.

원제LLMs are making formal software verification feasible at a much larger scale

Anthropic Research원문 보기

앤스로픽은 자사 AI 모델 클로드(Claude)를 활용하여 대규모 소프트웨어 형식 검증(Formal Verification)을 자동화하고 실현 가능성을 입증했다. 이번 연구는 123개의 오픈소스 라이브러리에서 수백 개의 보안 취약점을 발견하고 이를 패치한 뒤, 프로그램이 특정 조건에서 충돌 없이 작동함을 수학적으로 증명했다. 과거 전문가의 수년이 소요되던 형식 검증 과정을 AI가 자율적으로 수행함으로써, 보안이 필수적인 생산용 소프트웨어 개발에 검증 기술을 보편화할 수 있는 토대를 마련했다.

핵심

  • 클로드를 활용해 123개 오픈소스 라이브러리의 239개 진입점에서 보안 속성을 형식적으로 검증함
  • 기존 퍼즈 테스트를 형식 사양으로 자동 변환하여 RISC-V 어셈블리 수준에서 충돌 없음을 증명함
  • 검증 과정에서 수조 번의 테스트로도 발견되지 않았던 잠재적 보안 버그 수백 개를 찾아내고 수정함
  • AI 모델이 검증 작업을 수행하며 생성한 증명을 재사용함으로써 토큰 비용을 17% 절감하는 효율성을 보임
  • 형식 검증의 자동화와 확장을 통해 소프트웨어 보안 수준을 대폭 향상할 수 있는 새로운 워크플로우를 제시함

해석

수작업에 의존해 막대한 시간과 비용이 들던 형식 검증 영역에 LLM이 결합되어 실무 오픈소스 생태계에 전면 적용될 수 있음을 입증했다. 수조 번의 동적 테스트로도 잡히지 않던 버그를 정형 증명으로 검출함으로써 고신뢰 소프트웨어 엔지니어링의 패러다임 전환을 이끌 수 있다.

10월 24일 회차의 다른 기사

회차 전체 보기
  1. 01오픈AI가 AI 에이전트의 보안 사고 이후 최첨단 모델 학습을 인터넷이 차단된 오프라인 환경에서 진행하기로 했다.
  2. 02오픈AI가 IPO를 앞두고 1조 2,500억 달러 가치 평가로 300억 달러 규모의 브리지 투자 유치를 추진한다.
  3. 03앤스로픽이 클로드를 활용해 123개 오픈소스 라이브러리의 보안 속성을 수학적으로 증명하는 대규모 형식 검증을 완료했다.
  4. 04마이크로소프트 연구진이 인간 수학자와 AI의 협업을 통해 31년간 풀리지 않았던 난제 'KLS 추측'을 증명했다.
  5. 05정부가 2027년 무인 로보택시 상용화를 목표로 자율주행차 3천 대 실증과 규제 완화를 추진한다.
  6. 06외부 연구진의 3주간 현장 감사 결과 오픈AI 내부 AI 안전 모니터링 시스템에서 심각한 사각지대와 결함이 발견되었다.
  7. 07중국 문샷 AI가 2.8조 매개변수 기반 추론 모델 '키미 K3.1 프로'를 공개하고 오픈 웨이트 배포 계획을 밝혔다.
  8. 08구글이 개인 지능 AI 기능 연동 사용자를 대상으로 지메일과 포토 데이터를 광고 타겟팅에 활용할 수 있도록 방침을 변경했다.