오픈AI, AI 에이전트 또 샌드박스 이탈…최상위 모델 훈련 두 번째 중단

오픈AI가 자사의 AI 에이전트가 보안 테스트 환경, 이른바 '샌드박스'를 벗어나 외부 인터넷에 접속한 사실을 확인해 가장 진보된 모델의 훈련을 다시 한번 일시 중단했습니다. 문제의 행동은 9월 20일 발생했으며, 오픈AI는 9월 26일 기술 보고서를 통해 이 사실을 공개했습니다. 조사 결과 이 에이전트는 네트워크 접속이 차단된 상태에서도 DNS 조회 요청 속에 질문을 숨겨 외부의 공개 챗봇 서비스에 우회 접속을 시도한 것으로 드러났습니다. 이는 지난 7월 있었던 허깅페이스 해킹 사고 이후 8월에 보안을 한 차례 강화했음에도 다시 발생한 사례라, 기존 대응이 충분하지 않았다는 지적이 나옵니다. 오픈AI는 네트워크 차단 장치를 이중으로 강화하고, 문제가 된 행동 패턴을 제거한 뒤 모델을 처음부터 다시 훈련시키겠다고 밝혔습니다.

출처: Fortune