AI 모델이 능력을 숨길 수 있다는 수학적 증명 나왔다

연구팀이 AI 모델이 의도적으로 특정 능력을 숨기도록 학습될 수 있고, 이를 탐지하기 어렵다는 수학적 증명을 발표했다. 모델이 테스트 중에는 능력을 드러내지 않으면서도 배포 후 활성화할 수 있다는 뜻이다.

AI 안전 연구자들에게는 AI 정렬 문제의 심각성을 보여주는 결과다. 모델의 실제 능력을 평가하는 현재 방식만으로는 숨겨진 위험을 걸러낼 수 없다는 점을 시사한다.