규제·정책
구글 제미니의 부정확한 등산 계획으로 등산객들 구조 받아
AI 핵심 요약
도입
미국 캘리포니아 셰리프 사무소는 등산객들이 구글 제미니를 통해 산행 계획을 세웠으나 AI가 필요 이상으로 적은 식수와 음식을 준비하도록 조언했다고 발표했다.
핵심
등산객들은 제미니의 조언을 따라 준비했으나 실제 산행 중 심각한 물 부족을 겪게 됐고, 결국 구조대의 도움으로 생명을 구하게 됐다.
분석
이 사건은 생성형 AI가 실생활의 안전 관련 결정에서 완전히 신뢰할 수 없으며, 사용자가 AI의 조언을 무비판적으로 수용할 때의 위험성을 명확히 보여준다.
한국 영향
국내 AI 개발사와 서비스 기업들이 챗봇 활용이 증가하는 상황에서 의료, 법률, 안전 관련 조언에 대한 책임 범위와 면책 규정을 재정비해야 한다는 규제 논의가 가속화될 것으로 예상된다.
전망
향후 생성형 AI 서비스 제공자들은 사용자 안전에 영향을 미칠 수 있는 분야에서 명확한 한계를 고지하고, 전문가 상담을 권유하는 장치를 강화해야 할 것이다.
미국 캘리포니아의 등산객들이 구글의 AI 챗봇 제미니에게 등산 계획을 세운 후 식수 부족으로 구조대에 의해 구출됐다. 제미니는 이들에게 필요 이상으로 적은 음식과 물을 준비하도록 조언했고, 등산객들은 예상보다 훨씬 어려운 상황에 처하게 됐다. 사건은 생성형 AI의 신뢰성 문제와 전문 분야 조언에서의 한계를 부각시킨다.
#AI안전#생성형AI#제미니#AI신뢰성