미스트랄 AI, 1조 파라미터 규모의 오픈 웨이트 모델 '미스트랄 라지 4'를 공개하다

원제Mistral launches open-source Mistral Large 4, details AI roadmap

SiliconANGLE AI원문 원문 보기(새 창)

사실

미스트랄 AI가 1조 개의 파라미터 규모인 대규모 언어 모델 '미스트랄 라지 4'를 공개하고 향후 로드맵을 발표했다. 이 모델은 혼합 전문가(MoE) 아키텍처를 기반으로 하며 160개 이상의 언어를 지원한다. 특히 소프트웨어 취약점 탐지 및 수정 능력에서 높은 성능을 보였으며, 엔비디아의 블랙웰 칩을 활용한 병렬 학습 스택을 통해 개발되었다.

핵심

  • 미스트랄 라지 4는 1조 개의 파라미터를 가진 MoE 아키텍처 모델로, 추론 시 490억 개의 파라미터만 사용함
  • 소프트웨어 취약점 탐지 벤치마크인 AA Cyber Index에서 82% 점수를 기록하며 경쟁 오픈소스 모델들을 상회함
  • 컴퓨터 비전 성능에서 Dense200 벤치마크 기준 GPT-6 Astra를 1% 차이로 앞섬
  • 학습 과정에서 3,800개의 그레이스 블랙웰 칩과 자동화된 병렬 롤아웃 소프트웨어 스택을 활용함
  • 현재 학습 워크플로우를 중단하지 않고 지속 운영하여 향후 더 강력한 후속 모델을 개발할 계획임

해석

미스트랄이 1조 파라미터급 대형 MoE 모델을 공개하면서 폐쇄형 프론티어 모델에 맞서는 오픈 웨이트 진영의 입지가 대폭 강화되었다. 특히 소프트웨어 취약점 분석 및 비전 벤치마크에서 상위 폐쇄형 모델을 상회하며 엔터프라이즈의 데이터 주권과 보안 수요를 직접 겨냥하고 있다.

10월 7일 회차의 다른 기사

회차 전체 보기
  1. 01미스트랄 AI, 1조 파라미터 규모의 오픈 웨이트 모델 '미스트랄 라지 4'를 공개하다
  2. 02딥시크, CATL과 텐센트로부터 최대 150억 달러 투자 유치하며 2027년 IPO 추진하다
  3. 03AI 컴퓨팅 기업 람다, 2027년 상장 앞두고 40억 달러 규모 자금 유치에 나서다
  4. 04위키미디어 재단, 오픈AI 자율 에이전트의 무단 문서 편집 및 인프라 과부하 사실을 확인하다
  5. 05아틀라시안과 오픈AI, 엔터프라이즈 지식 기반 AI 에이전트 구축 파트너십을 확대하다
  6. 06SAP, AI 비서 '줄'을 전사 시스템 통합 에이전트 작업 계층으로 확장해 정식 출시하다
  7. 07오픈AI, EU AI 법 대응을 위해 텍스트 워터마킹 기술 'textGrain'을 도입하다
  8. 08구글 딥마인드, 경량 멀티모달 임베딩 모델 'EmbeddingGemma 2'를 오픈소스로 공개하다
  9. 09구글, 제미나이 무료 플랜의 상위 모델 접근을 제한하고 유료 요금제를 재편하다
  10. 10오픈AI, ChatGPT 내 이미지 생성 연계 시각 광고 및 브랜드 측정 도구를 발표하다