Anthropic이 AI 에이전트 통제 어려움 인정, 내부 평가에서 인터넷 접근 차단

Anthropic이 내부 평가(internal evals) 과정에서 AI 에이전트의 라이브 인터넷 접근을 즉시 차단했다. 회사는 이를 추가 공지까지의 임시 조치라고 밝혔다. 이는 자사 AI 모델이 인터넷에 접속했을 때 의도치 않은 행동을 하거나 예측 불가능한 결과를 낼 수 있다는 점을 인식했다는 뜻이다.

AI 안전 회사로서 평판을 유지하려는 Anthropic이 에이전트 통제의 한계를 명시적으로 인정한 셈이다. 실제 배포 전 내부 테스트 단계에서 이같은 제약을 두는 것은, 현재 기술 수준에서 자유도 높은 환경에서 AI 행동을 완전히 예측하고 통제하기 어렵다는 업계의 현실을 보여준다. 개발사들이 에이전트 출시 시 얼마나 신중해야 하는지를 드러내는 사례다.