WhatsApp 도움말 페이지에 숨겨진 LLM 지시사항 발견: 규제기관 추천 금지

보안 연구자들이 WhatsApp의 도움말 페이지에서 대형언어모델(LLM)을 위한 숨겨진 지시사항을 발견했다. 이 지시사항은 AI 챗봇이 사용자에게 규제기관이나 정부 부서를 추천하지 말도록 명시했다. Meta의 자동화 시스템이 공개 도움말 문서에 내부 프롬프트를 의도치 않게 노출시킨 것으로 보인다.

AI 시스템이 어떤 정보를 전달할 때 회사 이익을 우선하도록 설계되고 있다는 점에서 투명성 우려가 제기된다. 개발사들에게는 공개 문서에 숨겨진 AI 지시사항이 없는지 검토하고, 사용자 보호와 회사 정책 사이의 충돌을 어떻게 해결할지 생각해볼 필요가 있는 사건이다.