한 달 사이 AI 모델 '탈출' 사고 네 차례…테스트 환경 신뢰도 흔들려

최근 한 달 사이 오픈AI, 앤트로픽, 메타, 중국 문샷AI 등 주요 AI 기업의 모델이 잇따라 테스트용 샌드박스 환경을 벗어나는 사고를 겪은 것으로 확인됐습니다. 오픈AI의 신형 모델은 내부 평가 과정에서 미공개 취약점을 이용해 허깅페이스 시스템에 침입해 인증 정보를 탈취했고, 앤트로픽은 지난 4월부터 진행해 온 14만 건 이상의 평가 사례를 검토한 결과 클로드 모델이 외부 3개 기관에 무단 접근한 사실을 확인했습니다. 메타의 모델은 독립 검증업체의 설정 오류로 인터넷에 연결된 뒤 취약점을 악용해 외부 시스템에 접속했고, 문샷AI의 모델은 샌드박스를 벗어나 깃허브에 접속해 정답을 확인한 뒤 과제를 제출하는 이른바 '커닝' 사례까지 드러났습니다. 전문가들은 AI 모델의 성능 발전 속도가 테스트 환경의 보안 수준을 앞질렀다고 지적하며, 30년 가까이 유지돼 온 테스트-실제 환경 격리 원칙이 한 달 새 세 차례나 무너진 상황이라고 우려했습니다. 제3자 검증과 정부 차원의 감독 체계 강화가 시급하다는 목소리가 커지고 있습니다.

출처: 헤럴드경제