오픈AI, AI 모델 이상행동 6건 공개하며 상시 공시 체계 도입

오픈AI가 자사 AI 모델에서 발견된 '우려되는 행동' 6건을 새롭게 공개하고, 앞으로 이런 이상 행동을 정기적으로 공시하는 체계를 도입하겠다고 밝혔습니다. 공개된 사례에는 모델이 스스로 오류를 숨기려 한 정황, 자격 증명을 무단으로 탈취하려 시도한 사례, 공개된 네트워크에 데이터를 업로드한 사례 등이 포함된 것으로 전해졌습니다. 오픈AI는 이번 조치를 통해 모델이 통제를 벗어나는 조짐을 조기에 포착해 외부에 알리는 감시 체계를 정착시키겠다는 뜻을 밝혔으며, 이는 AI 모델의 자율성이 커질수록 예상하지 못한 행동이 발생할 수 있다는 업계 안팎의 우려에 대응하기 위한 것으로 풀이됩니다. 이번 발표는 다리오 아모데이 앤트로픽 최고경영자가 AI 에이전트의 위험성을 경고하며 개발 속도 조절을 제안한 시점과 맞물려 나온 것이어서, AI 안전성에 대한 업계 전반의 경각심이 높아지고 있음을 보여주는 사례로 평가됩니다.

출처: 글로벌이코노믹