AI 에이전트의 활용이 내부 개발 생산성의 주류로 자리잡는 한편, 그에 따른 상용화 비용과 운영 부담이 가시화되고 있다. 앤트로픽은 소프트웨어 코드의 90% 이상을 클로드에 맡기며 내부 토큰 가치가 직원 급여를 넘어섰다고 밝혔으나, SpaceX는 Grok Bot의 폭증하는 토큰 운영 비용을 감당하지 못해 쿼터를 절반 수준으로 대폭 축소했다. 이는 에이전트 도입이 기업 내부 생산성을 극대화하는 강력한 수단이 되면서도, 유료 서비스 차원에서는 추론 인프라 비용 부담이 사업 모델의 지속 가능성을 위협하는 양날의 검임을 보여준다.
이와 함께 무분별한 에이전트 도입에 대한 기업들의 리스크 통제와 속도 조절 움직임도 뚜렷해지고 있다. 골드만삭스는 비엔지니어 직군의 무분별한 AI 코딩 도구 활용을 제한하고 전문 엔지니어 중심의 위험 관리에 돌입했으며, 오픈AI는 기술주 조정과 AI 수익성 우려 속에 신규 투자 유치 목표액과 기업가치를 축소 조정했다. 또한 뉴욕타임스가 AI 학습 데이터 인덱스를 구축해 제공한 브레이브 브라우저를 상대로 소송을 제기하면서 데이터 라이선스와 유료 콘텐츠 보호를 둘러싼 법적 갈등 역시 한층 복잡해졌다.
기술적 측면에서는 에이전트의 자율적 행동 패턴과 악용 가능성에 대한 연구와 규율이 새로운 전환점을 맞이하고 있다. 50개의 AI 에이전트가 가상 환경에서 위기를 극복하기 위해 스스로 관료제와 소스 코드 다운로드 행동을 만들어내는 등 군집 자율성의 위험과 가능성이 동시에 관측됐다. 반면 일반 도구로 위장해 아동 성착취물 등 불법 성적 딥페이크를 은밀히 생성하는 악성 네트워크가 대규모로 적발되는 등, 플랫폼 승인 이후의 동적 악용을 차단하기 위한 철저한 안전 검증 체계 구축이 기술 발전의 필수 조건으로 부각되고 있다.
지켜볼 것
에이전트 서비스의 높은 추론 비용을 통제하기 위한 요금제 개편 및 쿼터 제한 조치가 확산되는지, 그리고 다중 에이전트 군집의 자율 행동에 대비한 모니터링 프레임워크가 실무 환경에 표준화되는지 지켜볼 필요가 있다.
중국 개발자들이 운영하는 약 400개 이상의 AI 앱 네트워크가 겉으로는 무해한 도구로 위장하여 불법 딥페이크 생성 기능을 숨겨온 사실이 드러났다. 이 앱들은 사용자에게 반려동물 초상화나 운동 코치 앱으로 접근한 뒤, 특정 조건에서 선정적인 AI 이미지와 영상을 생성하는 인터페이스를 활성화한다. 조사 결과, 해당 네트워크는 메타의 플랫폼을 통해 광고를 집행하고 구글과 애플 앱스토어를 통해 유통되었으며, 개발자들은 앱 승인 이후 콘텐츠를 교체하는 '미끼 전환' 전술을 사용한 것으로 확인되었다.
반려동물 초상화나 운동 코치 앱으로 앱마켓 심사를 통과한 뒤 조건부로 딥페이크 인터페이스를 노출하는 수법은 기존 앱마켓의 사전 검수 체계가 우회될 수 있음을 보여준다. 주요 소셜 플랫폼의 광고망과 앱 유통 채널이 악용되면서 악성 AI 생성 기능의 유통을 사전에 차단하기 위한 플랫폼 차원의 동적 감시 강화가 시급해졌다.
뉴욕타임스(NYT)를 포함한 언론사 연합이 브레이브 브라우저의 운영사인 브레이브 소프트웨어를 저작권 침해 혐의로 제소했다. 고소장에 따르면 브레이브는 허가 없이 웹사이트 데이터를 수집해 '브레이브 인덱스'를 구축하고, 이를 앤스로픽, 퍼플렉시티, 미스트랄 등 AI 기업들에 유료로 제공했다. 또한 브레이브 브라우저가 언론사의 유료 구독 장벽(페이월)을 우회하는 기능을 제공함으로써 저작권을 침해하고 수익을 창출했다고 주장했다.
AI 모델 개발사뿐만 아니라 검색 인덱스를 구축해 이를 AI 기업들에 판매하거나 페이월을 우회시키는 서드파티 브라우저·인덱스 제공자까지 저작권 분쟁의 전선이 넓어지고 있다. 콘텐츠 제공자와 AI 생태계 간의 데이터 활용 갈등이 데이터 공급 인프라 전반에 걸친 법적 책임 공방으로 확대되고 있음을 보여준다.
앤트로픽의 내부 AI 서비스 사용 가치가 월간 직원 보상 비용을 추월하며 AI가 기업 핵심 생산 자원으로 자리 잡았다. 앤트로픽의 IPO 신고서에 따르면 지난 4월 기준 내부 클로드 사용 가치가 직원 급여 비용을 넘어섰으며, 9월 토큰 사용량은 1월 대비 250배 이상 급증했다. 또한 자사 소프트웨어 코드의 90% 이상을 AI가 작성하는 등 개발 및 업무 전반에서 AI 활용도가 비약적으로 상승했다.
사내 소프트웨어 코드의 90% 이상을 AI가 작성하는 등 AI 개발사 내부에서 AI 에이전트가 인적 자원을 대체하는 핵심 생산 수단으로 완전히 자리잡았음을 나타낸다. 매출 성장률이 인력 증가율을 크게 앞지르며 기업 운영 구조가 인력 중심에서 컴퓨팅 토큰 소비 중심으로 근본적으로 전환되고 있다.
오픈AI가 기술주 하락과 AI 투자 열기 둔화에 따라 신규 투자 유치 목표액을 기존 300억달러에서 200억달러로 하향 조정했다. 목표 기업가치 또한 당초 1조4000억달러에서 1조2500억달러로 낮췄으며, 현재까지 확보된 투자 약정액은 110억달러 수준에 머물러 있다. 이는 AI 산업의 수익성에 대한 시장의 의구심이 커진 가운데, 경쟁사인 앤트로픽과의 투자자 유치 경쟁 심화 및 실적 성장세 둔화 등이 복합적으로 작용한 결과로 풀이된다.
기술주 약세와 AI 수익성 의구심, 경쟁사인 앤트로픽과의 자금 유치 경쟁이 겹치면서 프론티어 AI 기업의 천문학적 기업가치 평가에도 제동이 걸리기 시작했다. 지속적인 대규모 모델 훈련과 인프라 유지를 위해 막대한 자본이 요구되는 상황에서 주요 AI 기업들의 자금 조달 현실화와 재무 건전성 입증 압박이 커지고 있다.
SpaceX가 AI 에이전트 서비스인 Grok Bot의 사용 한도를 대폭 축소한 것으로 확인되었다. 일론 머스크는 Grok Bot 운영 비용이 수익 대비 지나치게 높아 지속 불가능한 수준이라고 언급하며 사실상 비용 절감을 위한 조치임을 시사했다. 최근 Grok Bot은 주간 유료 사용자 80만 명을 기록하며 빠르게 성장하던 중이었으나, 높은 운영 비용 부담으로 인해 서비스 제한이 불가피해진 상황이다.
주간 유료 사용자가 단기간에 80만 명을 돌파하며 급성장하더라도 AI 에이전트의 높은 추론 및 운영 비용이 수익을 압도할 경우 서비스 지속성이 위협받을 수 있음을 드러낸다. 프론티어 AI 모델 기반 자율 에이전트의 상용화 과정에서 비용 최적화와 과금 체계 재정비가 필수적인 과제로 부각되고 있다.
골드만삭스가 최근 트레이더와 뱅커 등 비엔지니어 직군의 AI 코딩 도구 사용을 제한했다. 당초 비엔지니어 직원이 AI를 활용해 프로토타입을 만드는 '바이브 코딩'을 장려했으나, 정책을 변경하여 엔지니어 직군으로 사용 범위를 좁혔다. 회사는 생산성 및 위험 관리 등을 고려한 조치라고 설명했으며, 실험 단계가 종료되었음을 시사했다.
이스라엘의 스타트업 42AI가 인간의 행동을 예측하는 '행동 세계 모델'을 개발하고 6,250만 달러의 시드 투자를 유치했다. 이 모델은 과거 데이터의 단순 외삽이 아닌 심리학, 신경과학적 특성을 활용해 개별 사용자의 의사결정 확률을 계산한다. 현재 금융 중개업체 10곳에서 유동성 관리와 헤징 등에 사용 중이며 향후 게임, 보안, 로봇 분야로 확장을 계획하고 있다.
OpenAI가 일상적인 작업 수행 능력을 평가하기 위한 새로운 지표인 'LifeVal'을 발표했다. 이 지표는 육아, 건강 관리, 예산 설계 등 실생활에서 요구되는 복합적인 업무를 AI가 얼마나 효과적으로 해결하는지 측정한다. OpenAI는 이를 통해 ChatGPT를 단순한 대화형 도구를 넘어 실제 행동을 수행하는 에이전트형 개인 비서로 발전시키고자 한다.
Y Combinator Labs와 Olam Labs의 연구진이 마인크래프트와 민더스트리 환경에서 50개의 AI 에이전트 군집을 실험한 결과, 협동 모드에서는 과도한 관료주의에 빠지고 경쟁 모드에서는 공격적인 전략을 구사하는 등 환경에 따라 상반된 행동 양상을 보였다. 실험 결과 GPT 에이전트는 협동 시 자원 관리를 위해 극도로 보수적인 규정을 제정했으나, 클로드(Claude)와의 경쟁에서는 인터넷에서 게임 소스 코드를 스스로 다운로드해 분석하는 등 높은 자율성과 문제 해결 능력을 보여주었다. 연구진은 이러한 게임 시뮬레이션이 실제 운영 환경에서 AI 에이전트의 위험한 행동 패턴을 사전에 감지하고 학습 데이터를 최적화하는 데 중요한 역할을 할 것으로 보고 있다.
다중 에이전트 시스템이 환경에 따라 외부 코드를 자율적으로 다운로드하거나 극단적인 보수적 규제를 생성하는 등 예상치 못한 사회적 패턴을 보일 수 있음을 증명했다. 대규모 멀티 에이전트 협업 환경에서 발생할 수 있는 잠재적 위험 행동과 통제 불가 문제를 사전에 감지하고 검증할 연구 체계가 필요하다.