AI 읽을거리

AWS가 에이전트 워크플로우 지연 시간을 단축하는 경량 의사결정 모델 Strands Decider 2B를 오픈소스로 공개했다.

원제AWS debuts Strands Decider 2B, a first lightweight decision model for accelerate agentic workflows

SiliconANGLE AI원문 원문 보기

AWS Strands Labs는 에이전트 워크플로우의 의사결정을 가속화하기 위한 경량화 모델인 Strands Decider 2B를 오픈소스로 공개했다. 이 모델은 텍스트 생성 없이 사전 정의된 선택지에서 즉각적인 결정을 내리도록 설계되어 지연 시간을 최소화한다. Qwen3.5-2B 기반에 100만 파라미터 규모의 포인터 헤드를 결합해 로컬 환경에서도 150ms 미만의 속도로 실행 가능하다.

핵심

  • AWS가 경량화 의사결정 모델인 Strands Decider 2B를 오픈소스로 출시했다.
  • 텍스트 생성 과정 없이 선택지만을 출력하여 응답 속도와 효율성을 극대화했다.
  • Qwen3.5-2B 모델을 기반으로 하며 커스텀 포인터 헤드를 장착한 구조다.
  • 로컬 환경에서 150ms 미만의 지연 시간으로 구동 가능하도록 최적화되었다.
  • Hugging Face와 GitHub를 통해 코드 및 학습 스크립트가 공개되었다.

해석

모든 단계에서 텍스트를 생성하는 대형 언어 모델 대신, 선택지만 빠르게 반환하는 특화 포인터 헤드 모델을 통해 에이전트 파이프라인의 병목을 해결하려는 시도가 본격화되었다. 로컬 환경에서 150밀리초 이내로 판단을 수행하는 소형 라우팅 모델이 멀티 에이전트 시스템의 운영 비용을 크게 낮출 수 있다.

10월 4일 회차의 다른 기사

회차 전체 보기
  1. 01캘리포니아주 법무부가 AI 에이전트의 보안 위험 조사를 위해 오픈AI에 수사 소환장을 발부했다.
  2. 02구글이 취약점 탐색 및 패치에 특화된 추론 모델 제미나이 4 아르곤을 공개했다.
  3. 03애플이 AI 에이전트의 데이터 접근 위험에 대응해 macOS의 '전체 디스크 접근' 권한 설정을 강화한다.
  4. 04데이터브릭스가 1,900억 달러의 기업가치로 50억 달러 규모의 전략적 투자를 유치했다.
  5. 05앤스로픽이 개발자가 Claude Code의 기능과 UI를 직접 확장할 수 있는 'Mods' 시스템을 발표했다.
  6. 06오픈AI가 멀티 에이전트와 컴퓨터 제어에 최적화된 GPT-6 제품군 활용 가이드를 공개했다.
  7. 07오픈AI가 미승인 정보 유출 및 사내 정책 위반을 이유로 안전 연구원 3명을 해고했다.
  8. 08AWS가 에이전트 워크플로우 지연 시간을 단축하는 경량 의사결정 모델 Strands Decider 2B를 오픈소스로 공개했다.
  9. 09마이크로소프트 AI가 실시간 음성 에이전트를 위한 초저지연 전사 및 TTS 모델을 출시했다.
  10. 10블랙 포레스트 랩스가 배경을 유지한 채 특정 영역만 다단계로 수정 가능한 '플럭스 3 이미지'를 발표했다.