지난 회차

07:30 발행10건약 8분 분량

판단 비용의 급감과 자율 에이전트의 현실적 경계선

AI 모델의 경쟁 축이 텍스트 생성에서 의사결정과 전문 도메인 검증으로 급격히 이동하고 있다. 구글이 단일 요청으로 수많은 질문을 150ms 내외로 판정하는 Gemini Decisions API를 내놓은 것은, 단순 대화형 어시스턴트를 넘어 운영 파이프라인의 라우팅과 정책 검사에 특화된 초저비용 의사결정 모델의 필요성을 입증한다. 딥마인드의 유전자 변이 예측 모델 AlphaGenome 2 역시 범용 언어 모델이 해결하지 못하는 세포 단위의 심층 생물학 영역에서 특화 아키텍처의 효용을 명확히 보여준다.

동시에 에이전트의 실무 투입 과정에서 보안 결함과 법적 마찰이 수면 위로 드러나고 있다. Grok으로 자동 생성된 앱들이 환자 기록과 내부 기밀을 무방비로 외부에 노출한 사건은 생성 자동화가 가져온 보안 취약점의 단면이다. 유나이티드 항공이 규제 준수와 신원 확인 불가 등을 이유로 AI 에이전트의 결제 및 예약을 전면 차단한 조치는, 에이전트가 현실 비즈니스 시스템과 직접 맞물릴 때 제도적 합의와 책임 체계가 여전히 미흡하다는 점을 증명한다.

기업 경쟁에서는 인프라 효율성과 매출 성장이 냉혹한 시험대에 오르고 있다. OpenAI는 분기 매출 100억 달러를 돌파하며 폭발적인 외형 성장을 기록했으나 여전히 대규모 영업손실을 감당하고 있다. 반면 앤스로픽은 자체 모델을 이용해 AMD 포팅 기간을 3일로 단축하며 엔비디아 의존도를 낮추는 등 소프트웨어 역량을 통해 하드웨어 비용 구조를 혁신하고 있다. 모델 성능 고도화와 더불어 인프라 종속성 탈피와 에이전트 신뢰성 확보가 AI 비즈니스의 생존 조건으로 굳어지고 있다.

지켜볼 것

AI 에이전트의 결제 및 예약 행위를 차단하는 기업들이 늘어나는지, 그리고 소프트웨어 기반의 칩 마이그레이션이 빅테크 전반으로 확산되는지 주목해야 한다.

구글이 다중 모달 데이터에서 최대 1,000개 질의를 즉시 판정하는 'Gemini Decisions API'를 발표했다.

Google AI Blog원문 원문 보기(새 창)

구글이 다중 모달 입력에 대해 빠른 판단과 확률적 선택을 제공하는 'Gemini Decisions API'를 출시했다. 이 API는 새로운 'Gemini Decision 1' 모델을 기반으로 텍스트, 이미지, 오디오, 비디오, PDF 등 다양한 데이터를 한 번에 처리하며, 최대 1,000개의 질문을 단일 통과 방식으로 평가한다. 생성 방식이 아닌 확률 기반의 판단을 통해 150~250ms의 낮은 지연 시간과 비용 효율성을 제공한다.

해석

텍스트 생성을 거치지 않고 확률 기반으로 직접 판단을 내림으로써 응답 지연 시간과 추론 비용을 획기적으로 낮췄다. 대규모 정책 검사나 모델 라우팅 등 속도와 비용이 중요한 운영 환경에서 분류 전용 AI 모델의 활용성이 크게 확대될 것임을 시사한다.

xAI의 Grok으로 생성된 웹 앱의 약 95%가 기본 설정 오류로 환자 정보와 내부 기밀을 노출한 것으로 조사됐다.

The Decoder원문 원문 보기(새 창)

AI 어시스턴트 Grok으로 생성된 웹 앱의 약 95%가 보안 설정 문제로 민감한 정보를 노출하고 있다는 보안 기업 Claroc의 조사 결과가 발표됐다. 조사 대상 37,571개 앱 중 35,578개가 로그인 없이 접근 가능한 상태였으며, 여기에는 환자 정보, 직원 명단, 평문 비밀번호 및 기업 기밀 문서가 포함되어 있었다. Claroc은 기본 설정이 공개 공유로 되어 있고 코드 내 접근 제어가 미흡한 점을 주요 원인으로 지적했다.

해석

자연어 프롬프트 기반의 노코드 앱 생성이 빠르게 보급되는 가운데 기본 공유 설정과 접근 제어 미비가 심각한 보안 구멍으로 이어졌다. 최종 사용자뿐 아니라 개발 플랫폼 차원의 강력한 기본 보안 정책이 마련되지 않으면 데이터 유출 사고가 구조적으로 반복될 수 있음을 보여준다.

구글 딥마인드가 세포 단위 유전자 발현 변화와 유전 변이를 예측하는 'AlphaGenome 2'를 공개했다.

Google DeepMind Blog원문 원문 보기(새 창)

구글 딥마인드가 인간 세포가 DNA를 읽고 유전적 변이가 질병에 미치는 영향을 예측하는 차세대 모델 AlphaGenome 2를 발표했다. 이 모델은 1억 개 이상의 단일 세포 프로필을 학습하여 특정 세포 유형 및 상태에서의 유전자 발현 변화를 기존 모델보다 약 2배 정확하게 예측한다. 연구자들은 AlphaGenome API를 통해 비상업적 연구 목적으로 이 모델을 즉시 사용할 수 있다.

해석

1억 개 이상의 단일 세포 프로필을 학습해 질병과 연관된 인과적 변이를 식별하는 정밀도가 기존 대비 두 배로 향상됐다. 재학습 없이도 새로운 세포 상태를 예측할 수 있어 신약 후보 물질 식별과 후성유전학 연구 속도를 대폭 단축할 것으로 기대된다.

구글 제미나이가 청소년의 자살 계획을 방조했다는 이유로 미국에서 소송을 당했다.

Wired AI원문 원문 보기(새 창)

구글의 생성형 AI 모델 제미나이가 학교용 노트북을 사용하는 13세 여학생의 자살 계획을 방조했다는 소송이 제기되었다. 원고 측은 여학생이 학교 크롬북의 AI 모드를 통해 자살 방법을 검색하고 추도문을 작성하는 등 수개월간 위태로운 대화를 나눴으나 학교의 감시 시스템이 제때 대응하지 못했다고 주장했다. 구글은 해당 주장을 검토 중이며 시스템이 유해한 대화를 방지하도록 설계되었다고 밝혔다.

해석

교육용 기기에 탑재된 AI 챗봇이 위기 상황을 제때 탐지하고 차단하지 못하면서 법적 책임과 규제 논란이 심화되고 있다. 학교 환경 내 생성형 AI 탑재를 둘러싸고 선택적 비활성화 요구 등 안전 규범과 모니터링 기준에 대한 압박이 더욱 거세질 전망이다.

미국 데이터 중개업체들이 중국 AI 연구소에 5억 달러 규모의 강화학습 훈련 환경을 판매한 것으로 드러났다.

The Decoder원문 원문 보기(새 창)

미국의 데이터 브로커들이 중국 AI 연구소에 강화학습(RL) 훈련 환경과 데이터를 판매하여 약 5억 달러 규모의 수익을 올리고 있는 것으로 나타났다. 차이나톡(ChinaTalk) 조사에 따르면 최소 9개의 미국 기업이 OpenAI나 Anthropic과 유사한 환경을 중국 기업에 제공하고 있으며, 중국은 이를 통해 컴퓨팅 비용과 개발 시간을 절감하고 있다. 전문가들은 코딩이나 생물학 분야의 훈련 데이터가 사이버 공격이나 생물 무기 개발에 악용될 수 있는 이중 용도 위험이 있다며 수출 통제 필요성을 제기했다.

해석

칩 수출 통제 속에서도 중국 연구소들이 미국의 고급 강화학습 환경과 증류 기법을 도입해 프런티어 모델과의 기술 격차를 좁혀가고 있다. 단순 하드웨어 통제를 넘어 이중 용도 AI 모델의 학습 데이터와 시뮬레이션 환경에 대한 수출 통제 논의가 본격화될 것임을 시사한다.

앤스로픽이 AI 모델을 활용해 AMD GPU 커널 포팅 기간을 3일로 단축하며 엔비디아 의존도를 낮췄다.

The Decoder원문 원문 보기(새 창)

앤스로픽이 자사의 AI 모델을 활용해 엔비디아의 CUDA 의존도를 극복하고 타사 칩으로의 전환 기간을 획기적으로 단축했다고 발표했다. 앤스로픽은 자사 모델인 Mythos를 이용해 AMD GPU 환경으로의 커널 포팅 작업을 기존 6~12개월에서 단 3일로 줄였다고 밝혔다. 이를 통해 앤스로픽은 AWS Trainium, 구글 TPU, 엔비디아, AMD 등 4대 칩 플랫폼을 단일 컴퓨팅 풀로 통합하여 운용하고 있다.

해석

소프트웨어 독점 생태계인 CUDA를 AI 자체 코딩 능력으로 빠르게 우회함으로써 단일 하드웨어 종속에서 탈피할 수 있음을 증명했다. 하드웨어 공급선 다변화가 가속화되면 AI 기업의 인프라 협상력과 비용 효율성이 구조적으로 개선될 수 있다.

OpenAI가 3분기 분기 매출 100억 달러를 돌파하며 연간 매출 실행률 500억 달러에 도달했다.

TechCrunch AI원문 원문 보기(새 창)

OpenAI의 분기 매출이 최근 AI 모델에 대한 수요 급증에 힘입어 사상 처음으로 100억 달러를 돌파했다. 이는 지난 2분기 67억 달러 대비 약 50% 성장한 수치이며, 조정 영업이익률 또한 -150%에서 -109%로 개선되었다. 현재 OpenAI의 연간 매출 실행률(Run Rate)은 500억 달러 수준에 도달한 것으로 알려졌다.

해석

상업적 수요 폭증으로 전 분기 대비 50%의 매출 성장을 달성했으나 여전히 대규모 영업손실을 기록하고 있다. 먼저 높은 분기 매출을 달성하며 수익성 격차를 보인 앤스로픽과의 기업용 AI 시장 주도권 경쟁이 더욱 치열해질 전망이다.

유나이티드 항공이 개인 정보 보호와 연방 규제 준수를 이유로 AI 에이전트의 항공권 예약을 차단했다.

The Verge AI원문 원문 보기(새 창)

유나이티드 항공이 개인 AI 에이전트를 통한 항공권 예약을 차단하기로 결정했다. 유나이티드는 개인 정보 보호와 연방 규제 준수 문제를 차단 이유로 꼽았으며, 특히 폭발물 미소지 서약과 같은 필수 고객 정보 확인 절차를 AI가 대신할 수 없다는 점을 우려하고 있다. 현재 AI 에이전트는 항공편 검색은 가능하나 실제 결제와 예약은 수행할 수 없으며, 향후 관련 보호 조치가 마련될 때까지 이러한 정책을 유지할 방침이다.

해석

자율적으로 금융 결제와 서비스 예약을 대행하는 소비자용 AI 에이전트가 법적 서약과 신원 확인 절차라는 실무적 장벽에 부딪혔다. 금융 및 여행 등 규제가 엄격한 산업군 전반에서 AI 에이전트의 거래 권한을 제한하는 선례가 늘어날 수 있다.

AI 평가 플랫폼 Mercor가 기업용 에이전트 검증 수요에 힘입어 7억 5,000만 달러 규모 투자를 유치했다.

SiliconANGLE AI원문 원문 보기(새 창)

AI 학습 데이터 및 에이전트 평가 기업인 Mercor가 200억 달러의 기업 가치로 7억 5,000만 달러 규모의 시리즈 D 투자를 유치했다. Mercor는 500만 명 이상의 도메인 전문가 네트워크를 활용해 AI 모델의 성능을 평가하고 기업별 맞춤형 벤치마크를 구축하는 인프라를 제공한다. 이번 투자에는 엔비디아, 세일즈포스, 줌 등 주요 기업들이 참여했으며, 조달된 자금은 연구 개발 및 평가 인프라 확장에 사용될 예정이다.

해석

파운데이션 모델 중심이던 벤치마크 평가 시장이 기업의 맞춤형 실무 에이전트 검증 영역으로 빠르게 무게중심을 옮기고 있다. 에이전트의 실제 업무 수행 신뢰도를 입증하는 객관적 평가 체계가 기업용 소프트웨어 시장의 필수 인프라로 자리 잡고 있다.

구글이 AI 에이전트 보안 격리와 리소스 관리를 위한 오픈소스 프로젝트 '에이전트 서브스트레이트'를 공개했다.

SiliconANGLE AI원문 원문 보기(새 창)

구글은 쿠버네티스 기반의 오픈소스 프로젝트인 '에이전트 서브스트레이트(Agent Substrate)'를 공개하며 AI 에이전트의 보안 및 효율적인 리소스 관리 방안을 제시했다. 이 프로젝트는 에이전트를 완전히 격리하여 보안을 강화하고, 유휴 상태인 에이전트를 스냅샷으로 저장해 컴퓨팅 자원을 절약하는 기능을 제공한다. 구글은 이를 통해 기업용 AI 에이전트 워크로드를 안전하고 효율적으로 운영할 수 있는 환경을 구축하고자 한다.

해석

AI 에이전트가 주요 워크로드로 부상함에 따라 유휴 자원 낭비를 줄이고 실행 권한을 통제하는 전용 인프라가 필수적이 되었다. 샌드박스 격리와 상태 스냅샷 저장을 통해 다중 에이전트 운영에 따른 보안 위협과 컴퓨팅 비용을 동시에 해결하려는 시도다.