규제·정책
AI가 만든 아동도서의 악몽 같은 일러스트레이션
AI 핵심 요약
도입
AI 이미지 생성 기술의 대중화로 저비용 아동도서 제작이 급증하고 있다.
핵심
이러한 도서들에서 손가락 개수 오류, 신체 변형 등 해부학적 결함이 광범위하게 발견되고 있으며, 출판사의 불충분한 검수로 아마존 등의 플랫폼에 부적절한 콘텐츠가 대량 유통되고 있다.
분석
AI 학습 데이터의 한계와 자동화 심사 기준의 부실이 결합하면서, 안전성보다 속도를 우선시하는 출판 관행이 심화되고 있다.
한국 영향
국내 전자책·자가출판 플랫폼(예스24, 밀리의 서재 등)에서도 AI 생성 아동 콘텐츠 유입이 가시화되고 있어, 콘텐츠 등급 분류 및 AI 원본 표시 의무화 등 규제 정책 강화가 필요한 시점이다.
전망
향후 아동 콘텐츠에 대한 AI 활용 기준 수립과 플랫폼의 자율 심사 강화가 산업 신뢰도 유지의 핵심 과제가 될 것으로 전망된다.
AI 이미지 생성 도구를 활용한 아동도서 제작이 확산하면서 신체 변형, 해부학적 오류 등 '보디 호러'를 담은 기괴한 일러스트가 잇따르고 있다. 출판사들이 비용 절감을 위해 AI를 무분별하게 도입하면서 아이들이 보기 부적절한 콘텐츠가 온라인 책 플랫폼에 대량 유통되고 있는 상황이다.
업계 전문가들은 AI 생성 이미지가 훈련 데이터의 불완전성으로 인해 손가락 개수 오류, 신체 비율 왜곡 등을 반복적으로 만들어내며, 특히 아동 콘텐츠에선 윤리적 검수 과정이 부실하다고 지적한다.
#AI생성콘텐츠#출판업#콘텐츠검수#윤리