샤오미가 차세대 AI 모델 미모-V2.6의 강화학습 훈련 과정과 비용을 실시간 대시보드로 생중계했다.
원제샤오미, AI 훈련 과정 첫 '생중계'…일주일 만에 50억 투입
AI타임스원문 원문 보기(새 창)
사실
샤오미가 차세대 모델 '미모(MiMo)-V2.6'의 강화학습 훈련 과정을 실시간 대시보드로 대중에 생중계하며 파격적인 행보를 보이고 있다. AI 모델의 훈련 과정과 비용, 데이터 구성비, 학습 오류 현황까지 투명하게 공개한 것은 업계 최초의 시도다. 샤오미는 일주일 만에 50억 원 이상의 비용을 투입해 강화학습의 확장 가능성을 실험하고 있다.
핵심
- 샤오미가 '미모-V2.6' 모델의 강화학습 과정을 실시간 대시보드로 공개함
- 학습 단계당 20억 개의 토큰을 소모하며 훈련 시작 후 일주일 만에 약 50억 원의 비용이 투입됨
- 강화학습 데이터 중 3분의 2가 코딩 관련이며 비전 13.1%, 일반 대화 3% 등으로 구성됨
- GPU 메모리 오류(OOM)와 재부팅 기록을 포함한 모든 훈련 일지를 실시간으로 투명하게 공개
- 학습 완료 후 핵심 기술과 방법론을 오픈소스로 공개할 계획
해석
초거대 모델의 학습 비용과 구체적인 실패 데이터는 그동안 빅테크의 핵심 영업비밀로 취급되어 왔다. 샤오미의 투명한 공개는 강화학습 확장 과정의 기술적 장벽과 비용 구조를 표준화하는 계기가 될 수 있다. 또한 훈련 종료 후 기술을 오픈소스로 환원하겠다는 방침은 오픈 모델 진영 내 중국 제조사의 영향력을 한층 키울 것으로 보인다.
9월 22일 회차의 다른 기사
회차 전체 보기- 01샤오미가 차세대 AI 모델 미모-V2.6의 강화학습 훈련 과정과 비용을 실시간 대시보드로 생중계했다.
- 02구글이 제미나이 AI와 스마트폰 연동에 최적화된 노트북 운영체제 구글북과 제조사 5종 신제품을 공개했다.
- 03캘리포니아주가 AI 데이터센터의 에너지와 수자원 사용량을 규제하고 인프라 부담금을 의무화하는 법안을 통과시켰다.
- 04아마존이 메타의 쇼핑 AI 에이전트 뮤즈의 자사 전자상거래 플랫폼 접근을 약관 위반을 들어 차단했다.
- 05AWS가 로컬에서 만든 AI 에이전트를 여러 클라우드에 배포할 수 있는 오픈소스 프레임워크 Strands Harness를 출시했다.
- 06미국과 중국이 정상회담을 앞두고 국가 안보와 직결된 AI 사고에 대응하기 위한 조기 경보 채널 구축에 합의했다.
- 07OpenAI가 AI 모델의 수학 난제 해결 성과를 검증하고 학술 표준을 평가할 독립적 수학 자문 그룹을 출범시켰다.
- 08에티나가 휴머노이드와 협동로봇용 엣지 AI 시스템 2종을 출시해 비전-언어-행동 모델 로컬 실행을 지원한다.
- 09애플이 WWDC 2024에서 예고한 Siri AI 기능 출시 지연과 관련한 집단소송에 2억 5천만 달러를 합의금으로 지급하기로 했다.
- 10미국 국경의 대규모 AI 감시 타워 시스템 반경 내에서 1,000건 이상의 사망 사고가 발생해 실효성 논란이 일고 있다.