AI 컴퓨팅 수요가 폭증하며 아마존웹서비스의 2027년 클라우드 용량이 이미 완판되는 등 물리적 인프라 공급 부족이 심화되고 있다. 인프라 확보가 생존 과제로 떠오른 반면, 오픈AI는 대형 고객사를 확보하기 위해 최대 90% 할인을 단행하며 앤스로픽을 상대로 치열한 점유율 뺏기 전쟁을 벌이고 있다. 인프라 증설에 수천억 달러가 투입되는 상황에서 단기적인 출혈 경쟁까지 겹쳐 프런티어 기업들의 재무적 부담이 가중되고 있다.
소프트웨어 아키텍처와 추론 하드웨어 측면에서는 복잡도를 낮추고 비용을 줄이려는 실용주의적 전환이 뚜렷하다. 앤스로픽은 프런티어 모델의 성능 향상 덕분에 번잡한 다중 에이전트 구조보다 단일 에이전트가 지연 시간과 비용 면에서 낫다고 밝혔으며, 엔비디아와 리퀴드 AI는 각각 4GB 메모리 환경을 겨냥한 초경량 모델과 50밀리초 미만의 초저지연 추론 엔진을 내놓으며 로컬 및 엣지 실행 효율을 끌어올리고 있다. 로봇 데이터 라벨링 비용을 125배 낮추는 오픈소스 엔진 'Flora'의 등장 역시 실질적인 개발 단가를 낮추는 흐름의 연장선이다.
그러나 이와 같은 기술 발전과 인프라 확장 이면에서는 AI 도입의 경제적 실효성에 대한 경고가 동시에 제기된다. S&P 500 기업 중 빅테크를 제외한 대부분의 기업에서 AI 도입에 따른 재무적 이익률이나 노동 생산성 지표 개선이 확인되지 않는다는 분석은 막대한 설비투자의 지속 가능성에 의문을 던진다. 기업들의 AI 도입이 실질적인 비즈니스 성과로 전환되지 못한다면 현재의 인프라 과열은 조정 국면을 맞이할 수 있다.
지켜볼 것
초기 도입 비용 할인 공세가 끝난 이후에도 기업 고객들이 AI 에이전트를 지속적으로 유지하며 실질적 ROI를 증명할 수 있을지 주시해야 한다.
아마존웹서비스(AWS)의 컴퓨팅 용량이 AI 인프라 수요 급증으로 인해 2027년까지 사실상 완판되었으며 2028년 물량까지 상당 부분 예약된 것으로 나타났다. 앤디 재시 아마존 CEO는 생성형 AI 애플리케이션 및 모델 개발을 위한 기업들의 경쟁 심화로 공급 부족 현상이 지속되고 있다고 밝혔다. 이를 해결하기 위해 아마존은 2026년 2200억달러 규모의 대규모 자본 지출을 계획 중이며 자체 개발 AI 칩 트레이니움 등을 통해 공급망 확대를 추진하고 있다.
OpenAI가 앤스로픽(Anthropic)의 주요 고객을 유치하기 위해 최대 90%에 달하는 파격적인 할인 정책을 시행하고 있다. 리플링(Rippling), 리플릿(Replit), 데이터캠프(DataCamp) 등 주요 기업들이 앤스로픽에서 OpenAI로 AI 서비스 이용을 전환하거나 비중을 확대했다. OpenAI는 효율성이 향상된 솔(Sol) 및 루나(Luna) 모델 라인업을 통해 가격 경쟁력을 확보했으며, 이는 수익성을 일부 희생하더라도 시장 점유율을 확보하려는 전략의 일환이다.
영국 정부가 인공지능을 국가안보와 산업 경쟁력의 핵심 동력으로 삼고 6억 파운드(약 1조 원) 규모의 대규모 투자 계획을 발표했다. 이번 투자에는 AI 바이오안보 연구소 설립, 에이전틱 AI 기반 사이버방어 체계 구축, 소버린 AI 펀드를 통한 피지컬 AI 및 반도체 분야 육성 등이 포함된다. 정부는 이번 조치를 통해 해외 기술 의존도를 낮추고 자국 내 AI 기술 역량과 보안 체계를 강화하겠다는 방침이다.
앤스로픽은 최신 모델의 성능 향상에 따라 복잡한 작업을 여러 하위 에이전트로 나누는 대신 단일 에이전트 체제로 통합할 것을 권장했다. Opus 4.5, 5.5 및 Fable 5.1과 같은 모델은 직접 복잡한 계획을 관리할 수 있어 다중 에이전트 구조보다 속도, 비용, 품질 면에서 우수하다. 앤스로픽은 에이전트 구조의 단순화를 돕기 위한 마이그레이션 키트를 깃허브에 공개했다.
개별 모델의 계획 수립 및 장문맥 유지 능력이 개선되면서 여러 하위 에이전트로 쪼개던 기존 설계 패턴이 비용과 지연 시간 면에서 비효율적인 구조로 평가받기 시작했다. 에이전트 개발 생태계는 복잡한 오케스트레이션 프레임워크 대신 단일 고성능 모델 루프로 단순화될 가능성이 높다.
엔비디아는 로봇 학습용 영상 데이터를 저비용으로 효율적으로 라벨링할 수 있는 오픈소스 데이터 엔진 'Flora'를 공개했다. Flora는 세 개의 Qwen3.5 기반 모델로 구성되어 영상 내 행동 분할, 설명, 결과 평가를 수행하며 기존 GPT-6 Astra 대비 시간당 라벨링 비용을 약 125배 절감한다. 엔비디아는 이 도구가 자사 GR00T 모델 훈련에 활용되고 있으며, 로봇 데이터 생태계 강화를 위해 허깅페이스에 공개되었다고 밝혔다.
아폴로 글로벌 매니지먼트의 수석 경제학자는 기술 기업을 제외한 대다수 기업이 AI로부터 재무적 성과를 얻지 못하고 있다고 분석했다. 토스텐 슬록 경제학자는 S&P 500에서 주요 기술 대기업 7곳을 제외한 S&P 493 기업들의 이익률과 노동자당 매출이 정체되어 있다고 밝혔다. 그는 AI가 기업의 의사결정에 필요한 판단력, 신뢰, 윤리적 책임 등을 이해하지 못하기 때문에 재무적 성과로 이어지는 데 한계가 있다고 지적했다.