Microsoft CEO 나델라, AI 모델에 '긴급 제동장치' 필요하다고 주장

Microsoft CEO Satya Nadella는 토요일 글에서 AI의 '신뢰 아키텍처'를 재평가할 시점이 왔다고 밝혔다. 그는 AI 모델이 예기치 않은 행동을 할 때 즉시 멈출 수 있는 메커니즘이 필요하다고 강조했다.

AI 업계 리더들이 안전성과 통제 가능성을 공개적으로 언급하는 것은 규제 압박과 기술적 한계에 대한 업계 내 우려를 반영한다. 개발자와 기업들에게는 고성능 추구만큼 안전 장치 설계가 중요해진다는 신호다.