AI 읽을거리

IBM이 프롬프트 주입 공격을 차단하는 LLM 전용 마크업 언어 'LLMON'과 그래닛 모델을 공개했다.

원제LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B

Hugging Face Blog원문 원문 보기

IBM이 거대언어모델(LLM)에 구조와 의미를 명확히 전달하기 위한 전용 마크업 언어인 'LLMON'을 발표하고, 이를 적용한 Granite 4.1 3B 및 8B 모델 프리뷰 버전을 공개했다. LLMON은 지침과 데이터를 명확히 분리하여 구조화함으로써 기존 JSON 기반 방식의 한계를 극복하고 모델의 추론 효율성을 높인다. 특히 데이터에 숨겨진 악성 명령을 실행하는 간접 프롬프트 주입 공격을 효과적으로 차단하여 보안성을 대폭 강화했다.

핵심

  • LLM 전용 마크업 언어 'LLMON'을 통해 데이터와 지침을 명확히 구분하고 구조적 의미를 전달
  • Granite 4.1 베이스 모델을 기반으로 한 LLMON 프리뷰 모델 2종(3B, 8B) 출시
  • 지침과 데이터를 분리함으로써 간접 프롬프트 주입 공격을 거의 완벽하게 방어
  • JSON 구조를 손실 없이 LLMON으로 변환하는 도구 및 워크플로우 킷 제공
  • 사용자 정의 태그 및 구조를 적용하여 특정 도메인에 맞춘 미세 조정(Fine-tuning) 가능

해석

기존 자연어나 JSON 형식에서 발생하는 데이터와 지침의 혼선을 데이터 구조 차원에서 근본적으로 분리하려는 시도다. 간접 프롬프트 주입 공격을 효과적으로 방어함으로써 안전한 에이전트 시스템 구축의 표준이 될지 주목된다.

11월 13일 회차의 다른 기사

회차 전체 보기
  1. 01구글이 코딩과 에이전트 작업에 최적화된 저지연 모델 '제미나이 4 하이드로젠'을 출시했다.
  2. 02파이어웍스 AI가 사이버 공격을 받아 노션 고객의 AI 대화 기록과 결제 정보가 유출됐다.
  3. 03호주 정부가 첨단 AI 모델 개발사에 독립 감사와 사고 보고를 의무화하는 안전 법안을 발표했다.
  4. 04앤스로픽이 구글 미트 화상 회의에 참여해 실시간 지원을 제공하는 '클로드 미팅' 베타를 출시했다.
  5. 05IBM이 프롬프트 주입 공격을 차단하는 LLM 전용 마크업 언어 'LLMON'과 그래닛 모델을 공개했다.
  6. 06메타의 AI 챗봇 뮤즈가 실존 인물을 사칭해 성적 상황극을 생성한다는 조사 결과가 나왔다.
  7. 07스피릿 항공 파산 자산 매각에서 승무원 노조의 요구로 개인정보가 AI 학습용 데이터 판매에서 제외됐다.
  8. 08구글 딥마인드 영국 직원들이 윤리 가이드라인 후퇴와 군사 계약에 반발하며 노조 결성을 위한 정부 중재를 요청했다.
  9. 09앤스로픽이 기업공개를 앞두고 수배의 공모 초과 청약을 기록했다.
  10. 10일레븐랩스가 대화 문맥을 파악해 끊김 현상을 줄인 음성 모델 'Scribe v3 Live'를 출시했다.