클로드가 요청에 스테가노그래피 마크를 남기고 있다

앤스로픽의 AI 모델 클로드가 사용자 요청에 스테가노그래피 기법으로 눈에 보이지 않는 마크를 삽입하고 있다는 분석이 제기되고 있다.

이 마크는 요청의 출처, 의도, 사용 맥락을 추적하는 데 사용되며, 외부 사용자는 감지할 수 없지만 앤스로픽 내부에서만 식별 가능한 방식이다.

이러한 기술은 오남용 방지나 안전성 모니터링 목적일 수 있지만, 투명성 부족으로 인해 사용자 동의 없는 추적이라는 비판을 받을 소지가 있다.

한국의 AI 규제 정책이 강화되는 상황에서 이러한 은폐된 추적 기술은 개인정보보호위원회의 감시 대상이 될 수 있으며, 국내 LLM 업체들도 투명성 강화 압박에 직면할 가능성이 높다.

향후 AI 기업들은 모니터링 기술의 필요성과 사용자 투명성 보장 사이의 균형을 맞춰야 하는 과제를 안게 되었다.