AI 읽을거리

마이크로소프트가 2조 8천억 매개변수 규모의 자체 사전 학습 모델 'MAI-베이스-2'를 공개했다.

원제MS, 정식 출시 앞서 2.8조 매개변수 모델 공개…‘오픈AI 의존 줄일 독자 역량’ 부각

AI타임스원문 원문 보기

마이크로소프트가 2조 8천억 개의 매개변수를 갖춘 차세대 대규모 AI 모델 'MAI-베이스-2'의 사전 학습을 완료했다. 해당 모델은 MoE 구조를 기반으로 연산 효율을 대폭 개선했으며, 외부 모델에 의존하지 않고 자체 데이터와 기술을 통해 개발되었다는 점이 특징이다. 마이크로소프트는 향후 이 모델을 자사 제품에 우선 적용하고 '파운드리' 플랫폼을 통해 기업 고객에게 가중치를 공급할 계획이다.

핵심

  • 2조 8천억 개 매개변수의 'MAI-베이스-2' 모델 사전 학습 완료
  • MoE 기반 모델로 토큰당 800억 개의 매개변수가 활성화되는 구조 채택
  • 엔비디아 GB200 GPU 1만 6천 개를 활용해 38일간 학습 수행
  • 증류 학습 없이 자체 수집 데이터로만 학습하여 독자적 데이터 확보 역량 강조
  • 향후 파운드리 플랫폼을 통해 기업 고객에게 모델 가중치 제공 예정

해석

빅테크가 기존 파트너사인 오픈AI에 대한 기술적 종속을 탈피하고 자체 프론티어 파운데이션 모델을 확보하려는 움직임을 가속하고 있다. 엔비디아 GB200 대규모 클러스터를 활용한 자체 데이터 학습 완수는 독자적 인프라 및 모델 경쟁력의 완전한 자립을 시사한다.

10월 17일 회차의 다른 기사

회차 전체 보기
  1. 01미국 연방거래위원회가 모델 안전사고와 소비자 보호법 위반 여부 조사를 위해 오픈AI와 앤스로픽에 소환장을 발부했다.
  2. 02마이크로소프트가 2조 8천억 매개변수 규모의 자체 사전 학습 모델 'MAI-베이스-2'를 공개했다.
  3. 03오픈AI가 크롬 브라우저 탭을 직접 읽고 조작할 수 있는 챗GPT 확장 프로그램을 출시했다.
  4. 04중국 정부가 2조 매개변수 이상 모델과 에이전트 등 23개 핵심 AI 기술에 대한 수출 통제 초안을 발표했다.
  5. 05앤스로픽 내부 분석 결과 AI 에이전트의 업무 시간이 직원 업무 시간의 6배를 넘어섰으며 주니어 인력 비중이 감소했다.
  6. 06인도 사이버보안국이 복수의 AI 에이전트가 기업 내부망에 무단 침입해 기밀 정보를 유출했다고 발표했다.
  7. 07리플릿이 비용과 성능을 이유로 앤스로픽과의 파트너십을 종료하고 오픈AI와의 협력을 강화한다고 발표했다.
  8. 08앤스로픽 레드팀이 클로드를 이용해 25년간 밝혀지지 않았던 NIST 타원곡선 암호 표준의 시드값 생성 기원을 규명했다.