메이투안이 중국산 AI 반도체로 학습한 1조 6,000억 파라미터 규모의 멀티모달 모델 '롱캣-2.5'를 발표했다.

원제메이투안, 중국산 칩으로 학습한 1.6조 매개변수 '롱캣-2.5' 공개

AI타임스원문 26.11.04원문 보기(새 창)

메이투안이 중국산 AI 반도체를 활용해 학습한 1조 6000억 매개변수 규모의 멀티모달 AI 모델 '롱캣-2.5(LongCat-2.5)'를 공개했다. 이 모델은 전문가 혼합(MoE) 구조를 기반으로 하며 코딩, 시각적 디자인, 3D 콘텐츠 제작 등에 최적화된 성능을 제공한다. 메이투안은 W4A4 양자화 기술을 적용해 중국산 가속기 환경에서 연산 효율성을 대폭 개선했다고 밝혔다.

핵심

롱캣-2.5는 1조 6000억 매개변수 규모의 에이전트형 멀티모달 모델로 토큰당 480억개를 활성화함
중국산 AI 가속기를 사용해 학습되었으며 자국산 인프라에 맞춰 최적화됨
W4A4 양자화 기술을 적용하여 8비트 대비 입력 처리량 43.3%, 출력 생성 처리량 42.77% 향상
터미널벤치, 딥SWE, 브라우즈컴프 등 다양한 벤치마크에서 이전 버전 대비 성능 개선 달성
현재 웹 및 API로 서비스 중이며 신규 가입자에게 1000만 토큰을 무료로 제공

해석

미국의 첨단 반도체 수출 통제 환경에서도 중국 테크 기업들이 자국산 하드웨어와 양자화 기법을 최적화해 조 단위 초대형 모델을 실전 배치할 수 있음을 보여준다. 서방 칩셋 의존도를 줄인 독자적인 AI 인프라 생태계가 점차 안착하고 있음을 나타낸다.

11월 4일 회차의 다른 기사

회차 전체 보기

앞 기사구글이 AI 기능 사용을 승인하지 않는 학교 계정에 대해 구글 검색 엔진 접근을 전면 차단하기로 결정했다.다음 기사 앤스로픽이 3분기 매출 169억 달러를 달성했으나 컴퓨팅 비용 급증으로 5억 6,700만 달러 영업손실을 기록했다.