Anthropic, AI 모델이 50명 이상 사망 초래 가능하면 차단하는 안전 법안 제시

Anthropic이 연방 정부 기관이 AI 모델 출시를 차단할 수 있는 조건을 담은 법안을 제안했다. 해당 법안은 50명 이상이 사망할 가능성이 있는 경우 모델 배포를 금지하는 내용을 담고 있다.

표면적으로는 AI 위험으로부터 보호하는 것처럼 보이지만, 실제로는 연방 기관이 판사의 허가 없이는 모델 출시를 막을 수 없도록 규정해 규제 권한을 크게 제한하는 구조다. 개발사 입장에서는 사전 검수보다 사법부 개입이 필요한 높은 기준을 만들어 규제 부담을 줄이는 전략으로 읽힌다.