애플·구글, '나체화' 앱 제거 명령받다...미국 규제 강화

샌프란시스코 시 검사실이 애플과 구글에 공식 서한을 보내 의류를 제거하는 AI 기반 딥페이크 앱들을 앱스토어에서 제거하라고 명령했다.

양사는 이미 오랫동안 캘리포니아 주법을 위반하는 이들 앱의 존재를 알고 있었으나 조치하지 않은 것으로 드러났으며, 이는 플랫폼 책임론의 강화를 의미한다.

미국은 생성AI로 인한 비동의 성적 이미지 생성 문제를 이제 법적 제재 대상으로 삼으면서 글로벌 규제 추세가 가속화되고 있다.

한국도 유사 딥페이크 앱에 대한 규제 기준이 모호한 상태로, 앱스토어 운영사의 사전심사 강화 및 명확한 법제화가 필요한 시점이다.

향후 플랫폼들은 단순 제거 차원을 넘어 AI 생성 콘텐츠에 대한 사전 검증 체계 구축을 피할 수 없을 것으로 보인다.