미군 분석가가 사용한 AI 챗봇의 허위 보고서로 중국 선박 대상 군사 작전이 실행 직전 취소되다

핵심

• 미군 분석가가 AI 챗봇을 활용해 중국 선박에 대한 정보를 수집하던 중 AI의 환각 현상으로 인해 잘못된 보고서가 작성됨
• 해당 보고서는 선박이 핵무기 부품을 운송 중이라고 잘못 판단했으며, 이로 인해 군사 작전이 승인될 뻔함
• 작전은 실행 직전 취소되었으며, AI의 정보 오류가 검증 없이 지휘 체계로 전달된 점이 문제로 지적됨
• 미 국방부는 의사결정 속도 향상을 위해 AI 도입을 서두르고 있으나, 그 과정에서 충분한 인간의 감독이 이루어지지 않았다는 비판이 제기됨
• 전문가들은 AI의 유용성을 인정하면서도 무력 사용이나 작전 계획 등 생명과 직결된 결정에는 더 엄격한 안전장치가 필요하다고 강조함