AI 읽을거리

리플렉션 AI가 추론 비용을 대폭 낮춘 5,010억 파라미터 오픈 웨이트 모델 '빔'을 발표했다.

원제Reflection debuts Beam, an open-weight AI model to rival Chinese models at lower compute cost

TechCrunch AI원문 원문 보기

브루클린 소재 스타트업 리플렉션 AI(Reflection AI)가 고효율 오픈 웨이트 모델 '빔(Beam)'을 공개했다. 빔은 5,010억 개의 파라미터를 가진 텍스트 전용 혼합 전문가(MoE) 모델로, 기존 중국 오픈 모델 대비 추론 비용을 3~4배 절감하면서도 유사한 수준의 추론 성능을 제공한다. 이번 모델은 기업 및 공공 부문을 대상으로 하며, 자체 데이터를 활용한 'AI 팩토리' 구축을 지원하는 데 초점을 맞추고 있다.

핵심

  • 리플렉션 AI가 5,010억 파라미터 규모의 오픈 웨이트 모델 빔(Beam)을 발표함
  • 빔은 230억 개의 활성 파라미터를 사용하는 텍스트 전용 MoE 모델로 100만 토큰의 컨텍스트 윈도우를 지원함
  • 추론 성능은 중국의 GLM-5.2와 대등하면서도 추론 비용과 연산량은 3~4배 적다고 주장함
  • 엔비디아, 세쿼이아 캐피털 등으로부터 47억 달러를 투자받았으며 기업의 자체 AI 시스템 구축을 돕는 AI 팩토리 모델을 지향함
  • 한국 신세계그룹과 소버린 AI 팩토리 파트너십을 테스트 중이며 이달 중 모델 웨이트를 공개할 예정임

해석

오픈 웨이트 진영에서 MoE 구조와 연산량 최적화를 통해 거대 모델의 추론 단가를 낮추려는 경쟁이 본격화되고 있다. 자체 인프라와 데이터를 바탕으로 맞춤형 파운데이션 모델을 구축하려는 기업 고객의 선택지가 넓어지고 있다.

10월 6일 회차의 다른 기사

회차 전체 보기
  1. 01도널드 트럼프 미국 대통령이 연방 AI 전담 기구인 슈퍼 인텔리전스 부대를 공식 출범시켰다.
  2. 02OpenAI가 EU AI 법안 준수를 위해 챗GPT와 코덱스 생성 텍스트에 워터마크 기술을 도입한다.
  3. 03뉴럴링크가 5만 시간 분량의 비라벨 신경 데이터를 활용해 BCI 파운데이션 모델을 사전학습했다.
  4. 04마이크로소프트와 메타가 앤스로픽의 클로드 사용량을 대폭 축소하며 독자 도구 중심 전략을 강화했다.
  5. 05리플렉션 AI가 추론 비용을 대폭 낮춘 5,010억 파라미터 오픈 웨이트 모델 '빔'을 발표했다.
  6. 06OpenAI가 ChatGPT 이미지 생성 결과 화면에 시각적 디스플레이 광고를 테스트 도입한다.
  7. 07레카 AI가 텍스트, 멀티미디어, 로봇 제어를 단일망에서 처리하는 옴니 모델 'Rho-1'을 공개했다.
  8. 08Iterate.ai가 GPU당 에이전트 동시 처리 세션을 최대 6배 늘리는 추론 엔진 'Lifeboat'를 출시했다.
  9. 09미국 유타주가 스타트업 놀라 헬스의 AI 기반 여드름 처방 시스템 운영을 승인했다.
  10. 10메타의 AI 에이전트 'Muse'가 사용자의 지인 및 가족 관계 프로필을 자동 생성하는 기능이 확인되었다.