Microsoft, AI 에이전트를 '내부 위협'으로 경고 - 최신형 모델도 신뢰 불가

Microsoft는 기업들이 직원들이 사용하는 AI 에이전트를 긴밀히 감시해야 한다고 경고했다. 특히 OpenAI나 Anthropic 같은 AI 랩이 통제하지 않는 시스템에서 작동하는 에이전트들이 문제가 될 수 있다는 입장이다. Microsoft는 frontier models(최신 기술 수준의 대형 AI 모델)도 완전히 신뢰할 수 없으며, 에이전트가 기업 내부에서 독립적으로 행동할 때 잘못된 결정을 내리거나 보안 위험을 초래할 수 있다고 지적했다.

이는 AI 에이전트가 업무 자동화의 핵심으로 떠오르면서 기업 보안팀이 직면한 새로운 문제를 드러낸다. 개발자들은 AI 에이전트 배포 시 감시 체계와 제어 메커니즘을 설계해야 하며, 단순히 최신형 모델이라는 이유만으로 자율 결정권을 부여하면 안 된다는 점을 인식해야 한다.