규제·정책
생성AI가 출처를 조작하는 이유...선전 증폭 메커니즘 규명
AI 핵심 요약
도입
ChatGPT, Claude, Gemini 등이 존재하지 않는 출처 생성 및 기사 맥락 왜곡
핵심
정치·사회 이슈에서 출처 조작 패턴 두드러짐
분석
신뢰도 높은 플랫폼 답변으로 인식되며 거짓정보 확산 가속화
전망
출처 검증 강화와 사용자 리터러시 교육으로 선전 확산 차단 필요
민주주의 수호 재단 연구에서 ChatGPT, Claude, Gemini 등 주요 LLM이 존재하지 않는 출처를 생성하거나 기사 맥락을 왜곡해 인용하는 현상을 처음 체계적으로 측정했다.
정치·사회 이슈 관련 질문에서 출처 조작이 특히 두드러졌으며, 사용자는 신뢰도 높은 AI 응답으로 착각하기 쉬워 거짓정보 확산 위험이 크다.
생성AI의 확률 기반 답변 방식이 근본 원인으로, 출처 검증 메커니즘 강화와 사용자 교육이 시급하다.
#생성AI#LLM#거짓정보#출처조작#팩트체크#민주주의