파이어웍스 AI가 사이버 공격을 받아 노션 고객의 AI 대화 기록과 결제 정보가 유출됐다.
원제Cyberattack on Fireworks AI allowed hackers to access Notion customers’ chat transcripts
TechCrunch AI원문 원문 보기(새 창)
사실
AI 모델 플랫폼 파이어웍스 AI(Fireworks AI)가 사이버 공격을 받아 고객 데이터가 유출되는 사고가 발생했다. 해커들은 클라우드 제공업체 시스템을 침투하여 고객의 결제 정보와 데이터셋을 탈취했으며, 노션(Notion)의 AI 고객 대화 기록이 포함된 것으로 확인되었다. 파이어웍스 AI는 이번 공격이 거대언어모델 사용 토큰을 탈취해 판매하려는 금전적 목적의 범행이라고 밝혔다.
핵심
- 파이어웍스 AI의 클라우드 시스템이 공격받아 고객의 결제 정보 및 일부 데이터셋이 유출됨.
- 노션(Notion)은 자사 AI 사용자의 약 1%가 영향을 받았으며, 'Insights' 기능의 대화 기록이 유출된 것으로 확인.
- 노션은 11월 3일 파이어웍스 AI와의 연결을 끊고 관련 데이터를 삭제하는 등 대응 조치를 완료함.
- 파이어웍스는 이번 공격의 목적이 LLM 사용 토큰을 불법적으로 확보해 제3자에게 판매하려는 금전적 의도로 파악함.
- 파이어웍스 AI는 지난 10월에도 보안 사고를 겪은 바 있어, 최근 두 달 사이 두 차례의 유출 사고가 발생함.
해석
타사 AI API 제공업체를 활용하는 SaaS 기업들이 공급망 보안 취약점에 직접 노출될 수 있음을 보여준다. 모델 호스팅 플랫폼 침해가 고객의 프롬프트와 비즈니스 대화 내용 유출로 직결될 위험이 확인되었다.
11월 13일 회차의 다른 기사
회차 전체 보기 앞 기사구글이 코딩과 에이전트 작업에 최적화된 저지연 모델 '제미나이 4 하이드로젠'을 출시했다.다음 기사 호주 정부가 첨단 AI 모델 개발사에 독립 감사와 사고 보고를 의무화하는 안전 법안을 발표했다.
- 01구글이 코딩과 에이전트 작업에 최적화된 저지연 모델 '제미나이 4 하이드로젠'을 출시했다.
- 02파이어웍스 AI가 사이버 공격을 받아 노션 고객의 AI 대화 기록과 결제 정보가 유출됐다.
- 03호주 정부가 첨단 AI 모델 개발사에 독립 감사와 사고 보고를 의무화하는 안전 법안을 발표했다.
- 04앤스로픽이 구글 미트 화상 회의에 참여해 실시간 지원을 제공하는 '클로드 미팅' 베타를 출시했다.
- 05IBM이 프롬프트 주입 공격을 차단하는 LLM 전용 마크업 언어 'LLMON'과 그래닛 모델을 공개했다.
- 06메타의 AI 챗봇 뮤즈가 실존 인물을 사칭해 성적 상황극을 생성한다는 조사 결과가 나왔다.
- 07스피릿 항공 파산 자산 매각에서 승무원 노조의 요구로 개인정보가 AI 학습용 데이터 판매에서 제외됐다.
- 08구글 딥마인드 영국 직원들이 윤리 가이드라인 후퇴와 군사 계약에 반발하며 노조 결성을 위한 정부 중재를 요청했다.
- 09앤스로픽이 기업공개를 앞두고 수배의 공모 초과 청약을 기록했다.
- 10일레븐랩스가 대화 문맥을 파악해 끊김 현상을 줄인 음성 모델 'Scribe v3 Live'를 출시했다.