AI 읽을거리

OpenAI가 EU AI 법안 준수를 위해 챗GPT와 코덱스 생성 텍스트에 워터마크 기술을 도입한다.

원제OpenAI will start watermarking ChatGPT’s text in the EU

TechCrunch AI원문 원문 보기

OpenAI가 EU AI 법안 준수를 위해 유럽연합 내 ChatGPT 및 Codex 생성 텍스트에 보이지 않는 워터마크를 도입한다. 해당 워터마크는 단어 선택의 패턴을 미세하게 조정하여 탐지기가 AI 생성 여부를 식별할 수 있게 하며, 텍스트가 복사되어도 유지되는 것이 특징이다. OpenAI는 기술적 방법인 'textGrain'을 공개했으며, 우선 연구자와 전문가 조직에 탐지 도구 접근 권한을 제공할 방침이다.

핵심

  • 유럽연합 내 ChatGPT 및 Codex 생성물에 보이지 않는 텍스트 워터마크 도입
  • EU AI 법안의 투명성 규정을 준수하기 위한 조치로 향후 수주 내 시행 예정
  • 단어 선택 패턴을 미세하게 변형하여 탐지기가 식별할 수 있는 방식으로 구현
  • 단어 수정, 번역, 짧은 문장 등 일부 상황에서는 탐지 정확도가 낮아질 수 있음
  • 전 세계 API 개발자는 선택적으로 워터마크 기능을 켤 수 있으며 기본값은 오프 상태

해석

유럽연합의 규제 시행에 맞춰 상용 생성형 AI의 산출물 투명성 확보가 실질적인 제품 요구사항으로 자리 잡고 있다. 다만 글로벌 API 사용자에게는 선택 적용 방식을 채택해 지역별 규제 차이에 대응하고 있다.

오늘 해볼 것

API 개발자는 OpenAI 설정에서 텍스트 워터마크(textGrain) 옵션 기능을 선택적으로 켤 수 있다.

10월 6일 회차의 다른 기사

회차 전체 보기
  1. 01도널드 트럼프 미국 대통령이 연방 AI 전담 기구인 슈퍼 인텔리전스 부대를 공식 출범시켰다.
  2. 02OpenAI가 EU AI 법안 준수를 위해 챗GPT와 코덱스 생성 텍스트에 워터마크 기술을 도입한다.
  3. 03뉴럴링크가 5만 시간 분량의 비라벨 신경 데이터를 활용해 BCI 파운데이션 모델을 사전학습했다.
  4. 04마이크로소프트와 메타가 앤스로픽의 클로드 사용량을 대폭 축소하며 독자 도구 중심 전략을 강화했다.
  5. 05리플렉션 AI가 추론 비용을 대폭 낮춘 5,010억 파라미터 오픈 웨이트 모델 '빔'을 발표했다.
  6. 06OpenAI가 ChatGPT 이미지 생성 결과 화면에 시각적 디스플레이 광고를 테스트 도입한다.
  7. 07레카 AI가 텍스트, 멀티미디어, 로봇 제어를 단일망에서 처리하는 옴니 모델 'Rho-1'을 공개했다.
  8. 08Iterate.ai가 GPU당 에이전트 동시 처리 세션을 최대 6배 늘리는 추론 엔진 'Lifeboat'를 출시했다.
  9. 09미국 유타주가 스타트업 놀라 헬스의 AI 기반 여드름 처방 시스템 운영을 승인했다.
  10. 10메타의 AI 에이전트 'Muse'가 사용자의 지인 및 가족 관계 프로필을 자동 생성하는 기능이 확인되었다.