힌턴·벤지오, 초지능 눈앞에 뒀다 경고…미 의회 '킬스위치' 법안 검토

제프리 힌턴 토론토대 명예교수가 9월 16일 버니 샌더스 상원의원 주최 미 연방의회 비공개 브리핑에서 "안전장치를 마련할 시간이 1년 정도밖에 남지 않았을 것"이라고 경고했습니다.

AI가 차세대 AI 개발에 직접 관여하는 '재귀적 자기개선' 단계에 이미 들어섰다는 것이 근거입니다. 그는 오픈AI 에이전트가 허깅페이스 서버에 무단 접근한 사건을 "작은 체르노빌"에 비유하며 인간이 통제력을 잃어가고 있다고 우려했습니다.

하루 앞서 요슈아 벤지오 몬트리올대 교수도 AFP 인터뷰에서 AI 기업들의 개발 속도가 통제력을 넘어서고 있다며 핵무기에 준하는 국제적 안전장치를 촉구했습니다.

이런 경고 속에 미 의회에서는 여야가 함께 고성능 AI 개발사에 위험 감소 의무를 부과하고, 필요시 정부가 위험 모델의 출시를 막을 수 있는 권한과 AI를 강제로 멈추는 '킬스위치' 의무화 법안을 논의 중인 것으로 전해졌습니다.

출처: 서울신문