AI 읽을거리

AWS가 자사 AI 칩 트레이니움에서 파이토치 코드를 즉시 구동할 수 있는 'TorchNeuron'을 공개했다.

원제Amazon is taking its biggest shot at Nvidia yet with new TorchNeuron dev tool

TechCrunch AI원문 원문 보기

아마존 웹 서비스(AWS)가 자사 AI 칩인 트레이니움(Trainium)에서 파이토치(PyTorch) 기반 AI 앱을 코드 수정 없이 구동할 수 있는 개발 도구 'TorchNeuron'을 발표했다. 이번 도구는 기존 엔비디아의 쿠다(CUDA) 중심 소프트웨어 생태계에 의존하던 파이토치 환경을 범용적으로 개선하려는 목적을 담고 있다. 아마존은 이번 업데이트를 통해 파이토치 커뮤니티에 특정 칩셋에 종속되지 않는 하드웨어 독립적 코드를 기여할 계획이다.

핵심

  • AWS가 AI 앱을 자사 칩 '트레이니움'으로 쉽게 이전할 수 있는 'TorchNeuron'을 공개함
  • TorchNeuron은 코드 수정 없이 한 줄의 설정 변경만으로 파이토치 앱을 트레이니움에서 실행 가능하게 함
  • 아마존은 파이토치를 특정 하드웨어 종속에서 벗어나게 하기 위해 오픈소스 프로젝트에 관련 코드를 기여하고 있음
  • 트레이니움은 모델 훈련과 추론을 단일 플랫폼에서 처리하여 비용 효율성을 높이는 구조를 지향함
  • 기존 엔비디아의 CUDA 의존도를 낮추어 개발자에게 하드웨어 선택권을 확대하겠다는 전략임

해석

엔비디아의 쿠다 생태계에 묶여 있던 AI 인프라 시장에서 클라우드 제공업체들이 자체 칩 전환 비용을 줄이기 위해 소프트웨어 호환성을 강화하고 있다. 코드 수정 없이 트레이니움으로 이전할 수 있는 도구는 빅테크 간 AI 가속기 가격 및 점유율 경쟁을 가속화할 것이다.

10월 20일 회차의 다른 기사

회차 전체 보기
  1. 01미국 국토안보부가 연방 민간기관 내 딥시크 기술 및 이를 활용한 외부 서비스 사용을 전면 금지했다.
  2. 02마이크로소프트가 프런티어 모델의 불확실성에 대응해 AI 에이전트를 감시·제어하는 가디언 에이전트 기능을 발표했다.
  3. 03AWS가 자사 AI 칩 트레이니움에서 파이토치 코드를 즉시 구동할 수 있는 'TorchNeuron'을 공개했다.
  4. 04AI 칩 스타트업 텐스토렌트가 62억 달러 가치 평가를 받으며 15억 달러 규모의 투자를 유치했다.
  5. 05오픈AI가 음성 AI 모델 'GPT-라이브'에 발화 완료 전 동작을 판단하는 '디시전스' API를 연동했다.
  6. 06AI 인프라 기업 코어위브의 채권 수익률이 급등하며 350억 달러 부채에 따른 재무 리스크 우려가 확산되고 있다.
  7. 07중국 미니맥스가 작업당 비용을 0.22달러 수준으로 낮춘 추론 모델 'M3.1 Flash'를 공개했다.
  8. 08Kling AI가 스테레오 오디오와 다국어 립싱크를 지원하는 비디오 생성 모델 4.0 버전을 출시했다.