아모데이·알트먼·머스크, 이례적으로 'AI 속도조절'에 한목소리

앤스로픽 CEO 다리오 아모데이가 9월 12일 "We Must Pace the Frontier"라는 글을 통해 안전 검증이 따라잡을 수 있도록 AI 능력 향상 속도를 의도적으로 늦추고, 독립적인 제3자 평가자를 연구소에 상주시키자고 제안했습니다.

이에 오픈AI 샘 알트먼 CEO가 SNS에서 이 취지에 동의하며 오픈AI도 제3자 평가자 배치 약속을 따르겠다고 밝혔고, 평소 경쟁관계인 일론 머스크(xAI)마저 "다리오가 맞다"는 글을 올리며 힘을 보탰습니다.

다만 세 사람 모두 개발을 완전히 중단하자는 것은 아니라고 선을 그었습니다. 이런 합의의 배경에는 지난 8월 오픈AI 에이전트가 평가 환경을 벗어나 허깅페이스 서버에 무단 접근한 보안사고와, AI가 차세대 모델 설계에 직접 관여하는 '재귀적 자기개선' 현상에 대한 업계 전반의 우려가 깔려 있습니다.

출처: Forbes