AI 읽을거리

아메리칸 익스프레스가 AI 에이전트의 비승인 결제를 방지하는 인증 프레임워크를 발표했다.

원제Amex introduces a framework to prevent AI agents from making unauthorized purchases

TechCrunch AI원문 원문 보기

아메리칸 익스프레스(Amex)가 AI 에이전트의 권한 없는 결제를 방지하기 위한 '인텐트 인텔리전스 프레임워크(Intent Intelligence Framework)'를 발표했다. 이 기술은 소비자의 구매 의도와 제약 조건을 거래 초기 단계에서 캡처하고 인증하여, AI가 사용자의 승인 범위를 벗어난 거래를 하지 못하도록 제어한다. 이는 ACE 개발자 툴킷의 일부로 제공되며, 향후 AI 상거래의 표준이 되는 것을 목표로 한다.

핵심

  • 아메리칸 익스프레스가 AI 에이전트의 부정 거래를 막는 인텐트 인텔리전스 프레임워크를 공개함
  • Create Intent API를 통해 구매 지시, 예산, 제품 선호도 등 소비자의 의도를 거래 초기에 기록 및 인증함
  • 거래 시 실제 카드 번호 대신 의도 식별자(Intent ID)와 토큰을 사용하여 보안을 강화함
  • 소비자가 사전에 설정한 제약 조건을 위반하는 AI의 오류성 결제 시도를 사전에 차단할 수 있음
  • 향후 자율적인 에이전트 커머스 환경에서 소비자 신뢰와 결제 보안을 유지하는 표준으로 활용될 예정

해석

자율적으로 금융 거래를 실행하는 AI 상거래 환경이 가까워지면서 사전 제약 조건 기반의 인증 표준화가 시작되었다. 에이전트의 오류나 일탈로 인한 금융 사고를 막기 위한 금융권 차원의 안전망 구축이 가속되고 있다.

10월 14일 회차의 다른 기사

회차 전체 보기
  1. 01캐릭터닷AI가 막대한 운영 비용과 부채를 감당하지 못하고 파산 보호를 신청했다.
  2. 02구글이 강화된 실시간 보안 체계와 추론 역량을 갖춘 '제미나이 4 아르곤'을 출시했다.
  3. 03오픈AI 직원이 임원 회의실에 도청 장치를 설치한 혐의로 체포되었다.
  4. 04엔비디아가 베라 루빈 아키텍처 설계를 OCP에 개방하고 AI 팩토리 표준화에 나섰다.
  5. 05어플라이드 머티어리얼즈가 실리콘밸리에 50억 달러를 투입해 AI 반도체 연구 시설을 구축했다.
  6. 06미국 법원이 애플과 오픈AI의 영업비밀 소송에서 오픈AI의 채용 기록 제출을 명령했다.
  7. 07오픈AI와 앤스로픽이 영국 의회에 AI 안전을 위한 법적 강제 규제 도입을 촉구했다.
  8. 08앤스로픽이 AI 에이전트의 대규모 코드 생성을 지원하기 위해 자체 버전 관리 시스템 '사이온'을 도입했다.
  9. 09아메리칸 익스프레스가 AI 에이전트의 비승인 결제를 방지하는 인증 프레임워크를 발표했다.
  10. 10AI 연구자 406명이 보안 강화를 위해 AI 모델의 인터넷 연결 차단과 에어갭 격리를 촉구했다.