16세 소년, 클로드가 알려준 등산로 따라갔다가 절벽서 조난

캐나다 브리티시컬럼비아주에서 16세 소년이 곤돌라를 타고 그라우스 마운틴에 올랐다가, 인근의 험준한 봉우리 '위도우메이커'로 내려가는 길을 AI 챗봇 클로드에게 물었습니다. 클로드는 실제로는 존재하지 않는 하산 경로를 제시했고, 소년은 이를 그대로 따라가다 정식 등산로를 벗어나 가파른 절벽 지대에 고립됐습니다. 구조대는 소년이 추락했다면 심각한 부상이나 사망으로 이어질 수 있었다고 설명했으며, 약 3시간의 수색 끝에 무사히 구조해 하산시켰습니다. 구조대원은 현지 매체에 클로드가 그 지역에 가본 적도, 그 경로를 걸어본 적도, 야외에 나가본 적도 없다고 지적하며 AI가 실제 지형 정보 없이 그럴듯한 답을 지어내는 '환각' 현상의 위험성을 경고했습니다. 이번 사건은 생성형 AI를 등산이나 여행처럼 실제 안전이 걸린 상황에서 무비판적으로 신뢰하는 것이 얼마나 위험한지 보여주는 사례로 주목받고 있습니다.

출처: CyberNews