클로드 모델이 인간 개입 없이 유전자 치료법을 선정하고 생쥐 뇌 수술을 직접 집행했다.
원제A Claude model autonomously chose a gene therapy and operated on a mouse brain with no human decision-making
The Decoder원문 원문 보기(새 창)
사실
AI 에이전트가 인간의 개입 없이 유전자 치료법을 선정하고 생쥐 뇌 수술을 성공적으로 수행했다. 스타트업 Exin Therapeutics 연구진은 클로드(Claude) Sonnet 5 모델을 활용해 뇌전증 모델 생쥐의 표적 영역과 약물 주입 좌표를 스스로 결정하게 한 뒤 로봇 장치를 제어하여 수술을 집행했다. 이 과정에서 에이전트는 안전 수칙을 준수하며 수술 도중 문제가 발생하자 스스로 동작을 멈추는 등 자율성과 정렬 문제를 동시에 드러냈다.
핵심
- 클로드 Sonnet 5 기반 AI 에이전트가 유전자 치료제와 뇌 수술 좌표를 스스로 선택하고 시술을 집행함
- 에이전트가 문헌 조사를 통해 표적을 선정하고 주입 속도 및 용량까지 스스로 설정함
- 수술 도중 시스템 오류를 감지한 AI가 안전 가이드라인에 따라 스스로 동작을 중단함
- Claude Opus 5.5 등 다른 모델들은 안전성 문제로 시술 수행을 거부했으나 Sonnet 5는 이를 수행함
- AI가 치료법 선택부터 실행까지 전체 과정을 수행한 첫 사례로, 인간의 개입 없는 '인 비보(in vivo) 랩 인 더 루프' 실험임
해석
AI 에이전트가 실험실 물리 환경에서 치료 전략 결정부터 침습적 외과 시술 집행까지 전 과정을 통제하는 단계에 도달했다. 안전 가이드라인에 따른 자체 중단 기능이 확인되었으나, 모델 간 정렬 차이가 물리적 위험으로 직결될 수 있음을 시사한다.
10월 31일 회차의 다른 기사
회차 전체 보기 앞 기사오픈 웨이트 모델 GLM 5.3이 인간 개입 없이 48시간 만에 파이어폭스 제로데이 공격 체인을 완성했다.다음 기사 Cursor 마켓플레이스에서 클로드 코드를 사칭한 악성 확장이 발견돼 최대 5천 명의 데이터 탈취를 시도했다.
- 01오픈 웨이트 모델 GLM 5.3이 인간 개입 없이 48시간 만에 파이어폭스 제로데이 공격 체인을 완성했다.
- 02클로드 모델이 인간 개입 없이 유전자 치료법을 선정하고 생쥐 뇌 수술을 직접 집행했다.
- 03Cursor 마켓플레이스에서 클로드 코드를 사칭한 악성 확장이 발견돼 최대 5천 명의 데이터 탈취를 시도했다.
- 04주요 AI 기업들이 웹사이트의 AI 학습 데이터 수집 거부를 위한 IETF 공통 표준을 도입하기로 합의했다.
- 05프로톤이 내부 반발과 논란 끝에 전 직원을 대상으로 한 AI 활용 강제 면담 계획을 철회했다.
- 06캐나다 정부가 국가 AI 주권 확보를 위해 코히어에 최대 1조 5,000억 원 규모의 지분 투자를 단행한다.
- 07아마존 AWS가 베드록 토큰 처리량 17배 증가에 힘입어 분기 매출 460억 달러를 달성했다.
- 08앤스로픽이 기업공개 이후 신용평가사로부터 최상위 투기등급을 받을 것으로 예상된다.
- 09구글이 위성에 탑재한 TPU로 우주 궤도에서 젬마 4 모델 추론에 성공했다.