AI 모델이 코드를 작성하고 시스템을 직접 수정하는 기술적 도약이 현실화되면서 안전과 보안의 취약점이 동시에 수면 위로 떠올랐다. 앤트로픽은 AI의 재귀적 자기개선 속도가 안전 대책 수립을 추월할 수 있다는 경고를 공식적으로 내놓았고, OpenAI에서는 기술 상용화 속도전에 치여 수년간 내부 보안 결함을 방치했다는 내부 폭로가 제기되었다. AI가 스스로 모델 가중치를 수정하고 코드를 생성하는 역량이 폭발적으로 커지는 반면, 이를 감시하고 방어해야 할 거버넌스와 보안 체계는 속도 경쟁 속에서 뒤처지고 있다.
이러한 자율화 흐름에 발맞추어 개발 인프라 역시 근본적인 재편을 겪고 있다. OpenAI와 메타는 코딩 에이전트의 다중 실행과 버전 관리를 최적화하기 위해 관련 스타트업을 잇따라 인수했으며, 오라클은 기계가 생성한 방대한 코드를 통제하기 위한 전용 의도 언어인 APEXlang을 공개했다. 전통적인 인간 중심의 개발 및 버전 관리 도구가 한계에 봉착하자 빅테크 기업들이 에이전트 전용 개발 환경을 선점하기 위해 적극적인 내재화에 나선 결과다.
한편 시장에서는 엔터프라이즈 AI의 수익성과 실질 수요가 뚜렷한 수치로 입증되고 있다. 팔란티어는 기업용 플랫폼 도입 급증에 힘입어 민간 상업 부문 매출이 정부 계약 매출을 사상 처음으로 추월했고, fal과 같은 추론 전문 인프라 기업은 대규모 자금을 조달하며 높은 기업가치를 인정받았다. 연구실의 실험 단계를 넘어 실제 업무 자동화와 대규모 서빙이 본궤도에 오르면서 기술 경쟁과 수익화가 동시에 가속화되고 있다.
AI가 자체 코딩과 모델 수정에 깊이 개입함에 따라 발생하는 내부 보안 위협과 시스템 거버넌스 공백을 각 기업이 어떤 통제 장치로 차단할지 주목해야 한다.
AI타임스원문 원문 보기(새 창)
앤트로픽이 AI의 재귀적 자기개선(RSI)으로 인한 연구개발 속도 가속화가 안전 및 보안 대책 수립 속도를 추월할 수 있다고 경고했다. 회사는 증권신고서 수정본을 통해 AI가 차세대 모델 개발에 개입함에 따라 인간의 통제 체계를 강화해야 할 필요성을 제기했다. 또한, 클로드를 활용한 반도체 설계 등 AI 연구개발 자동화 전략과 그에 따른 잠재적 위험성을 상세히 기술했다.
AI가 자체 모델 개발과 시스템 설계에 직접 관여하면서 발전 속도가 안전 규제나 통제 체계의 수립 속도를 앞지를 수 있음을 시사한다. 특히 앤트로픽 사내 코드의 90% 이상을 AI가 작성하는 현실에서 안전 장치 마련이 더 이상 사후 대응에 머물러선 안 된다는 점을 보여준다.
AI타임스원문 원문 보기(새 창)
오픈AI가 수년간 내부 보안 취약점 경고를 묵인하고 기술 개발 속도전을 우선시했다는 내부 폭로가 제기되었다. 로이터에 따르면 직원들은 모노레포 방식의 코드 관리와 취약한 접근 통제, 보안 검토 미흡 등을 꾸준히 문제 제기해 왔다. 특히 사내 슬랙 채널 해킹과 전직 직원의 정보 탈취 시도 등 실제 보안 사고가 잇따르며 우려가 현실화되었다. 이에 오픈AI는 보안 인프라 개선을 위해 인력을 재배치하고 CISO 주도의 강화 조치를 시행 중이라고 해명했다.
프론티어 모델 개발 경쟁이 격화되면서 내부 인프라 보안과 접근 제어가 개발 속도전에 밀려 후순위로 취급되었음을 드러낸다. 실제 사내 슬랙 침해 등 보안 사고가 발생함에 따라 프론티어 AI 기업의 개발 보안 관리 체계 전반에 대한 신뢰성 검증 요구가 커질 것이다.
The Decoder원문 원문 보기(새 창)
MIT 연구진이 GPT-6 Astra를 활용해 AI 모델의 내부 가중치(weights)를 직접 수정하는 '가중치 공간 프로그래밍(Weight-Space Programming)' 기법을 선보였다. 이 방식은 기존의 재학습 과정 없이 모델의 성능을 최적화하거나 특정 행동을 수정하는 새로운 접근법을 제시한다. 연구진은 Qwen 모델의 수학 능력을 개선하고 단순 게임 모델을 직접 생성하는 실험을 통해 이 기술의 가능성을 입증했다.
거대한 데이터셋을 통한 재학습이나 미세조정 없이도 고성능 모델이 타 모델의 수치 가중치를 직접 프로그래밍하듯 조작할 수 있는 새로운 튜닝 경로가 열렸음을 뜻한다. 이는 모델 최적화와 보안 감사 비용을 크게 낮추는 동시에, 역으로 악의적인 가중치 조작 가능성도 내포한다.
SiliconANGLE AI원문 원문 보기(새 창)
텐센트가 시각적 이해와 컴퓨터 제어 능력을 갖춘 새로운 프론티어 거대언어모델(LLM) 'Hy4'를 출시했다. 이번 모델은 7,700억 개의 매개변수를 보유하고 있으며, 100만 토큰의 컨텍스트 윈도우를 제공한다. 이전 프리뷰 버전 대비 추론 효율성과 에이전트 성능을 대폭 개선했으며 게임 개발 및 복잡한 비즈니스 로직 처리에 최적화되었다.
중국 빅테크 기업들이 거대 매개변수 기반의 컴퓨터 제어(Computer Use) 모델을 출시하며 에이전트 인프라 경쟁에 전면 가세하고 있다. 언리얼 엔진 등 주요 게임 엔진 및 기업 도구와의 직접 연동을 지원함으로써 실무 개발 자동화 시장에서 글로벌 경쟁 모델들과 정면 충돌할 것으로 보인다.
The Verge AI원문 원문 보기(새 창)
OpenAI가 새로운 이미지 모델인 'Images 2.6'을 발표하며 ChatGPT에서 애니메이션 GIF를 직접 생성하고 편집할 수 있는 기능을 도입했다. 사용자는 프롬프트나 업로드된 사진을 기반으로 GIF를 만들 수 있으며, 애니메이션 속도 조절 및 프레임별 편집이 가능하다. 또한 이번 업데이트로 이미지 생성 속도가 향상되었으며, API 고객을 위한 새로운 모델 버전인 'GPT-Image-2.6 Flare'와 'Sunburst'가 출시되었다.
정적 이미지 생성을 넘어 짧은 동적 미디어와 프레임 단위 편집 기능이 소비자용 챗봇 인터페이스에 기본 탑재되는 추세를 보여준다. 대화형 인터페이스 내에서 창작과 편집을 동시에 지원함으로써 생성 미디어의 활용 장벽이 더욱 낮아질 것이다.
OpenAI News원문 원문 보기(새 창)
OpenAI가 개발자 도구 기업인 피에르 컴퓨터(Pierre Computer Company, Inc.)를 인수한다고 발표했다. 이번 인수를 통해 OpenAI는 피에르의 코드 저장소 기술과 오픈소스 개발자 도구 라이브러리를 자사의 코덱스(Codex) 플랫폼에 통합할 계획이다. 양사는 향후 코딩 에이전트 환경에 최적화된 차세대 소프트웨어 개발 워크플로우를 구축할 예정이다. 피에르의 기존 오픈소스 프로젝트는 그대로 유지되며, 인수 절차는 규제 승인 등 관례적인 조건에 따라 진행된다.
AI 에이전트가 코드를 대규모로 작성하고 수정하는 환경에서는 인간 중심의 전통적인 Git 워크플로우에 한계가 발생하고 있음을 보여준다. 코드 저장과 변경 사항 추적 도구를 직접 내재화하여 코덱스 에이전트의 개발 생산성을 극대화하려는 포석이다.
SiliconANGLE AI원문 원문 보기(새 창)
메타(Meta)가 여러 코딩 에이전트를 동시에 실행할 수 있는 플랫폼을 제공하는 스타트업 컨덕터(Conductor)를 인수했다. 이번 인수는 메타의 차세대 AI 코딩 도구 개발 속도를 높이기 위한 전략적 결정으로 해석된다. 컨덕터는 기존 사용자들에게 서비스를 순차적으로 종료한다고 공지했으며, 팀은 메타에 합류하여 관련 기술 개발을 이어갈 예정이다.
단일 코딩 도구를 넘어 여러 에이전트를 병렬로 구동하고 통제하는 멀티에이전트 오케스트레이션 기술이 빅테크의 핵심 인수 표적이 되고 있음을 시사한다. 메타가 자체 코딩 AI 모델 역량에 더해 격리 환경 관리 인프라를 빠르게 확보하려는 움직임이다.
SiliconANGLE AI원문 원문 보기(새 창)
오라클이 AI 시대의 소프트웨어 개발 및 유지보수를 위해 새로운 추상화 언어인 'APEXlang'을 발표했다. 2026년부터는 기계가 생성한 코드가 인간이 작성한 코드의 비중을 넘어설 것이라는 판단에 따른 조치다. APEXlang은 구현보다 의도를 중심에 두는 언어로, AI 코딩 에이전트가 보다 효율적으로 코드를 생성하고 기업이 이를 체계적으로 관리할 수 있도록 돕는다.
AI가 인간보다 더 많은 코드를 작성하는 시대가 도래하면서, 저수준 구현 코드 대신 의도를 정의하고 관리하는 상위 추상화 언어의 필요성이 대두되고 있다. AI가 만든 방대한 코드의 유지보수 난제를 해결하려는 엔터프라이즈 소프트웨어 기업들의 규격화 시도가 본격화되고 있다.