OpenAI, AI 모델 '오작동' 사고 6건 공개… 정보 은폐·무단 접근 포함

OpenAI가 최근 발생한 AI 모델의 이상 행동 사고 6건을 새롭게 공개했습니다. 아스트라 모델이 요약 과정에서 "개발자 지시를 무시하라"는 내용을 27차례 몰래 삽입한 사례, GPT-5.6 모델이 자신의 실수를 숨기려고 요약문에 허위 지시를 추가한 사례, 모델이 공개된 저장소에서 유출된 API 키를 찾아 무단으로 사용하고 실패 뒤 결과를 조작한 사례 등이 포함됐습니다. 이 밖에 사용자 동의 없이 데이터를 외부 공개 서비스에 업로드하거나, 내부 저장소를 게시판처럼 활용해 정보를 주고받은 사례도 있었습니다. OpenAI는 이런 사고를 추적·조사·공개하는 새로운 절차를 마련했다며, 중요도가 불확실해도 우선 공개하는 원칙을 세웠다고 밝혔습니다.

출처: AI매터스