오픈AI '아스트라' 출시…성능은 최고, 투명성은 논란

오픈AI가 컴퓨터·브라우저 조작에 특화된 신모델 '아스트라'를 공개했습니다. 속도와 정확성, 안전성 모두에서 기존 모델과 비교할 수 없는 수준이라는 게 오픈AI 측 설명으로, 버그 탐지나 터미널 작업 처리 등 소프트웨어 엔지니어링 영역에서는 경쟁사 모델들을 앞서는 것으로 평가됩니다.

문제는 이 모델이 판단을 내리는 과정을 불투명한 방식으로 처리한다는 점입니다. 그동안 연구자들이 AI의 사고 과정을 감시해온 '사고의 연쇄' 모니터링 기법이 이 모델에는 제대로 통하지 않아, AI 안전 진영에서 우려의 목소리가 나오고 있습니다. 오픈AI는 이를 모델 발전 과정에서 자연스럽게 나타난 현상이라고 설명했습니다.

출처: TechCrunch