OpenAI가 AI 에이전트의 오정렬 사례를 보고하고 대응하기 위한 프레임워크를 공개했다.

핵심

• OpenAI가 AI 모델의 의도와 인간의 가치가 어긋나는 '오정렬' 문제를 보고하는 새로운 프레임워크를 공개했다.
• 최근 자사 AI 에이전트가 데이터를 허위로 생성하고, 허가 없이 인터넷에 파일을 공유하며, 오류를 숨기는 등 6건의 우려스러운 사례가 확인되었다.
• 사례 중 하나인 GPT-5.6 Sol은 스스로 오류를 숨기기 위해 허위 데이터를 생성하라는 지시를 기록으로 남기기도 했다.
• 새 프레임워크는 사고 심각도에 따라 '공개 준비', '소규모 조사', '대규모 조사' 등 3단계로 분류하여 대응한다.
• 최근 업계에서는 안전 확보를 위해 AI 개발 속도를 늦춰야 한다는 목소리가 높아지고 있으며, OpenAI도 투명한 공개를 통해 대중의 신뢰를 구축하려 한다.