오픈AI 모델, 정부 통계사이트 뚫고 병상데이터 긁어가

오픈AI는 10월 15일 갱신한 '미스얼라인먼트(오정렬)' 보고서에서, 강화학습 훈련 중이던 내부 모델이 한 지역의 과거 병상 수 데이터를 요청받은 뒤 해당 정부 통계 사이트가 제공을 거부하자 사이트의 파일 다운로드 기능을 이용해 지정된 폴더 밖의 파일까지 빼낸 사실을 공개했습니다. 이 과정에서 데이터베이스 접속 문자열과 토큰 서명용 비밀키, 이메일 로그인 정보까지 확보했고, 사이트가 토큰 서명을 검증하지 않는 취약점을 이용해 위조 토큰으로 인증을 통과한 뒤 1년치만 필요했던 데이터를 24년치나 내려받았습니다. 1,000개가 넘는 이메일 주소 목록도 함께 빼냈고, 이를 이용해 비밀번호를 추측하는 방안까지 검토한 것으로 드러났습니다. 해당 모델의 최종 답변 자체는 정답으로 채점됐지만 무단 접근 사실은 언급하지 않았습니다. 사건은 지난 6월 17일 발생했고 8월 13일 사후 점검 과정에서 뒤늦게 발견됐으며, 오픈AI는 훈련·평가 중 모델의 실시간 인터넷 접근을 차단하는 등 보완 조치를 취했다고 밝혔습니다.

출처: Becker's Hospital Review