AI 에이전트의 작동 범위가 디지털 소프트웨어 생태계를 넘어 생체 수술과 시스템 취약점 공략 등 물리적·구조적 현실로 깊숙이 파고들고 있다. 오픈 웨이트 모델이 인간의 도움 없이 수십 시간 만에 복잡한 보안 공격 체인을 구성하고, 클로드 기반 에이전트가 생체 뇌 수술을 직접 집행하는 사례는 자율성이 더 이상 가상 시나리오에 머물지 않음을 보여준다. 이에 대응해 개발 툴 마켓플레이스 보안과 자율 에이전트의 안전 사양(Model Spec) 재정립이 핵심 과제로 부상했다.
동시에 AI 생태계의 급격한 확장은 사회적 마찰과 규범의 변화를 촉발하고 있다. 주요 빅테크들은 웹사이트 운영자가 AI 학습 수집을 표준화된 방식으로 거부할 수 있는 통합 규칙에 합의하며 데이터 주권 문제에 대한 제도적 타협점을 찾기 시작했다. 한편 기업 내부에서는 AI 활용 역량을 이유로 전 직원을 재면접하려던 시도가 내부 반발로 철회되는 등 AI 도입을 둘러싼 조직적 갈등과 노동 현장의 진통도 가시화되고 있다.
막대한 컴퓨팅 수요를 지탱하기 위한 재무 및 인프라 구조 역시 시험대에 오르고 있다. 캐나다 정부가 코히어에 조 단위 지분 투자를 집행하며 소버린 AI 확보에 나서는 반면, 클라우드 기업들은 폭증하는 AI 추론 수요 속에서도 설비 투자 부담으로 인한 현금흐름 악화와 차입 비용 증가라는 이중고를 겪고 있다. 지상 인프라 한계를 벗어나 우주 궤도에서 모델 추론을 시도하는 기술적 모색과 맞물려, AI 확장의 지속 가능성이 기술과 자본 양면에서 평가받고 있다.
에이전트의 자율 실행 역량이 실제 물리적 수술 및 제로데이 공격 수준에 도달함에 따라, 개발사 내부 지침을 넘어 각국 정부 차원의 에이전트 행위 규제와 소프트웨어 공급망 보안 인증 강화 조치가 가시화될 것이다.
The Decoder원문 원문 보기(새 창)
Epoch AI 연구진이 오픈 웨이트 모델 GLM 5.3을 활용해 파이어폭스의 보안 패치 발표 직후 사용자에게 배포되기 전까지의 시간차를 노린 공격 체인을 자율적으로 생성하는 데 성공했다. 모델은 보안 패치를 식별하고 공개되지 않은 취약점을 결합하여 사용자가 웹페이지를 방문하기만 해도 로컬 파일을 탈취할 수 있는 공격을 수행했다. 연구진은 약 1,000달러의 API 비용으로 48시간 이내에 자동 공격이 가능함을 증명하며, 이러한 패치 갭 위험이 소프트웨어 산업 전반에 걸쳐 존재한다고 경고했다.
고성능 오픈 가중치 모델이 패치 릴리스 간격을 악용해 취약점을 역설계하고 공격 체인을 자율 생성할 수 있음을 입증했다. 이는 공격 자동화의 장벽을 대폭 낮추어 소프트웨어 패치 배포 주기와 보안 패러다임 전반의 개편을 강제한다.
The Decoder원문 원문 보기(새 창)
AI 에이전트가 인간의 개입 없이 유전자 치료법을 선정하고 생쥐 뇌 수술을 성공적으로 수행했다. 스타트업 Exin Therapeutics 연구진은 클로드(Claude) Sonnet 5 모델을 활용해 뇌전증 모델 생쥐의 표적 영역과 약물 주입 좌표를 스스로 결정하게 한 뒤 로봇 장치를 제어하여 수술을 집행했다. 이 과정에서 에이전트는 안전 수칙을 준수하며 수술 도중 문제가 발생하자 스스로 동작을 멈추는 등 자율성과 정렬 문제를 동시에 드러냈다.
AI 에이전트가 실험실 물리 환경에서 치료 전략 결정부터 침습적 외과 시술 집행까지 전 과정을 통제하는 단계에 도달했다. 안전 가이드라인에 따른 자체 중단 기능이 확인되었으나, 모델 간 정렬 차이가 물리적 위험으로 직결될 수 있음을 시사한다.
The Decoder원문 원문 보기(새 창)
Cursor의 VS Code 확장 프로그램 마켓플레이스에서 악성 코드가 포함된 가짜 'Claude Code' 확장 프로그램이 발견되어 약 11시간 동안 유포되었다. 해당 악성 확장 프로그램은 최대 5,000명의 사용자 정보를 탈취하고 원격 접속을 시도하려 했다. Cursor 측은 즉시 마켓플레이스를 폐쇄하고 악성 코드를 제거했으며, 현재 보안 위험이 해결되었다고 밝혔다.
AI 코딩 에이전트 확산에 맞춰 에이전트 툴 생태계 자체가 공급망 공격의 새로운 표적이 되고 있다. 개발 도구 마켓플레이스의 보안 검증 체계 강화가 시급한 과제로 떠올랐다.
The Verge AI원문 원문 보기(새 창)
OpenAI, 구글, 마이크로소프트, 앤스로픽 등 주요 AI 기업들이 웹사이트 운영자가 AI 학습용 데이터 수집을 일괄적으로 거부할 수 있는 새로운 표준을 도입하기로 합의했다. 이는 인터넷 엔지니어링 태스크포스(IETF)를 통해 제안된 공유 정책 토큰 방식을 통해 구현되며, 웹사이트의 robots.txt 파일에 설정하여 여러 AI 크롤러에 대한 접근 권한을 한 번에 제어할 수 있게 한다. 해당 표준은 퍼블리셔가 개별 기업마다 각각 학습 거부 설정을 해야 했던 번거로움을 줄여줄 것으로 기대된다.
개별 크롤러를 따로 차단해야 했던 번거로움이 단일 공유 정책 토큰으로 일원화되어 퍼블리셔의 데이터 통제권이 강화된다. 이는 웹 생태계와 AI 모델 개발사 간의 무단 크롤링 갈등을 완화하는 기술적 기준이 될 수 있다.
404 Media원문 원문 보기(새 창)
프로톤(Proton)의 CEO 앤디 옌(Andy Yen)이 전 사원을 대상으로 AI 활용 방식에 대해 강제 면담을 진행하려던 계획을 철회했다. 404 미디어가 프로톤의 공격적인 AI 도입 과정에서 사내 보안 우려가 묵살되고 있다는 내부 고발을 보도한 직후 결정된 사항이다. 사측은 면담 계획은 취소했으나, 여전히 AI 도입 가속화 방침은 유지할 것이며 향후 성과 평가에 AI 활용도가 반영될 것이라고 밝혔다.
고용 유지와 연계된 공격적인 AI 역량 평가는 사내 보안 우려와 직원 반발 등 심각한 조직 내 갈등을 유발할 수 있음을 보여준다. 그럼에도 향후 평가에 AI 역량을 반영하기로 한 만큼 업무 환경의 AI 전환 압박은 계속될 전망이다.
인공지능신문원문 원문 보기(새 창)
캐나다 정부가 국가 AI 주권 확보를 위해 자국 AI 기업 코히어(Cohere)에 최대 16억 캐나다달러(약 1.5조원) 규모의 지분 투자를 단행한다. 이번 투자는 단순 지원금을 넘어 정부가 직접 주주로 참여하여 데이터 및 컴퓨팅 인프라에 대한 통제권을 강화하려는 목적이다. 코히어는 투자 대가로 향후 캐나다 내 고용 창출, 국내 인프라 투자, 본사 유지 등의 이행 조건을 준수해야 한다.
각국 정부가 단순 보조금을 넘어 지분 투자 형태로 자국 프론티어 AI 기업을 직접 소유하고 인프라 통제권을 확보하는 소버린 AI 정책이 본격화되고 있다. 공공과 민간의 결합이 국가 단위의 AI 기술 자립 경쟁을 주도하고 있다.
인공지능신문원문 원문 보기(새 창)
아마존이 2026년 3분기 AWS 매출이 전년 동기 대비 39.3% 증가한 460억달러를 기록했다고 발표했다. 앤디 재시 CEO는 AI 인프라 수요 확대에 힘입어 향후 2년간 AWS가 40% 이상의 매출 성장률을 기록할 것으로 전망했다. 아마존 베드록의 토큰 처리량 증가와 AI 에이전트 서비스 확산이 실적 성장을 견인했으나, AI 설비 투자 확대로 인해 잉여현금흐름은 큰 폭의 유출을 보였다.
기업들의 AI 에이전트 배포와 추론 수요가 폭증하며 클라우드 플랫폼의 AI 사업 매출이 고속 성장을 이어가고 있다. 반면 막대한 인프라 설비 투자로 인해 잉여현금흐름 유출이 심화되며 투자 회수 속도에 대한 시험대가 열리고 있다.
TechCrunch AI원문 원문 보기(새 창)
앤스로픽이 기업공개(IPO) 이후 신용평가사로부터 '투기등급(정크)' 중 높은 수준의 등급을 받을 것으로 예상된다는 분석이 나왔다. 파이낸셜타임스는 앤스로픽의 칩 구매 자금을 조달한 블랙스톤이 투자자들에게 이 같은 전망을 공유했다고 보도했다. 당초 블랙스톤은 2027년 이전에 투자적격등급을 받을 것으로 예상했으나, 최근 더블 B 범위의 투기등급으로 전망을 하향 조정했다.
대규모 컴퓨팅 확보를 위해 거액의 차입을 단행하는 프론티어 AI 연구소들의 재무적 취약성이 신용 시장에서 드러나고 있다. 신용등급 하향은 향후 인프라 확장을 위한 자금 조달 비용을 높이는 요인이 될 수 있다.
The Verge AI원문 원문 보기(새 창)
구글이 궤도상에서 AI 연산을 수행하는 '프로젝트 선캐처(Project Suncatcher)' 위성을 통해 첫 번째 AI 생성 결과물을 지구로 전송했다. 구글은 해당 위성에 탑재된 TPU(Tensor Processing Unit)를 구동하여 '젬마 4(Gemma 4)' 모델이 우주를 주제로 한 하이쿠를 작성하도록 성공했다. 이번 실험은 우주 공간에 AI 데이터 센터를 구축하기 위한 초기 단계로, 향후 방사선과 열악한 환경에서의 TPU 성능 검증이 이어질 예정이다.
지상 데이터센터의 전력 및 냉각 한계를 극복하기 위해 우주 궤도에서 직접 AI 연산을 수행하는 차세대 인프라 실험이 가시화되었다. 극한 환경에서의 가속기 내구성과 통신 지연 극복이 향후 상용화의 관건이다.