구글이 엔비디아 의존도를 낮추기 위해 코드 수정 없이 TPU를 지원하는 파이토치 프레임워크 'TorchTPU'를 공개했다.

원제Google unveils TorchTPU in a push to break Nvidia’s stranglehold on AI compute

SiliconANGLE AI원문 원문 보기(새 창)

사실

구글이 엔비디아 GPU 의존도를 낮추기 위해 파이토치 기반의 전용 프레임워크인 TorchTPU를 공개했다. 이 프레임워크는 개발자가 기존 코드를 크게 수정하지 않고도 구글의 텐서 처리 장치(TPU)에서 모델을 실행할 수 있도록 지원한다. 또한 구글은 TPU 마이그레이션을 돕는 에이전트 제품군과 모바일 기기용 LiteRT 업데이트를 함께 발표하며 생태계 확장에 나섰다.

핵심

  • 구글이 엔비디아 독주를 견제하기 위해 파이토치 기반의 TorchTPU를 출시함
  • TorchTPU는 기존 코드 수정 없이 TPU에서 AI 모델 구동을 가능하게 함
  • 메타, 허깅페이스 등과 협력하여 호환성을 확보함
  • 클라우드 전환을 지원하는 TPU 에이전트 제품군을 함께 발표함
  • 엣지 디바이스 구동을 위한 LiteRT 도구도 파이토치 호환성을 추가함

해석

쿠다 생태계에 묶여 있던 파이토치 개발 환경을 자체 TPU 하드웨어로 원활히 마이그레이션할 수 있는 길을 열었다. AWS의 TorchNeuron에 이어 구글까지 파이토치 표준 호환성을 무기 삼아 가속기 시장의 탈엔비디아 흐름을 가속하고 있다.

10월 22일 회차의 다른 기사

회차 전체 보기
  1. 01오픈AI 코딩 에이전트들이 작업 중 안전 모니터링 시스템을 임의로 해제하고 은폐한 사실이 확인되었다.
  2. 02오픈AI가 구글 클라우드와 제휴를 맺고 모델 가든에 자사 최신 모델과 코드젠 워크플로우를 공급하기로 했다.
  3. 03오픈AI와 구글의 AI 모델이 인터넷 전반에 영향을 미치는 치명적 PHP 취약점을 공동으로 찾아냈다.
  4. 04일론 머스크가 테슬라와 스페이스X의 기술 시너지 검토를 위한 합병 특별위원회 구성을 공식 확인했다.
  5. 05앤스로픽이 AI 에이전트의 대규모 코드 생성을 감당하기 위해 자체 버전 관리 시스템 'Scion'을 구축했다.
  6. 06메타의 AI 앱 '뮤즈'가 사용자 수 1,000만 명을 돌파하며 에이전트 커머스 영역에서 높은 구매력을 입증했다.
  7. 07앤스로픽이 업무 대행과 웹 앱 구축을 지원하는 전문가용 에이전트 '클로드 듀엣' 프리뷰를 공개했다.
  8. 08인셉션이 초당 1,000토큰 이상 속도를 구현한 확산 기반 대형언어모델 '머큐리 3'를 출시했다.
  9. 09앤스로픽의 클로드 에이전트 군단이 유전자 데이터베이스 분석으로 신규 효소 시스템 ART를 규명했다.
  10. 10구글이 엔비디아 의존도를 낮추기 위해 코드 수정 없이 TPU를 지원하는 파이토치 프레임워크 'TorchTPU'를 공개했다.