엔비디아, AI 에이전트 폭주 막는 오픈 보안 플랫폼 공개…100여 기업 동참

엔비디아가 통제를 벗어난 AI 에이전트의 이상 행동을 밀리초 단위로 감지해 즉시 격리할 수 있는 개방형 AI 안전 플랫폼을 새로 공개했습니다. 소프트웨어뿐 아니라 하드웨어 차원에서도 이상 징후를 포착해, 자율적으로 움직이는 에이전트가 예상 밖의 작업을 실행하기 전에 미리 차단하는 것이 이 플랫폼의 핵심입니다. 발표 직후 이미 100여 개 기업이 참여 의사를 밝혔을 정도로 업계의 반응이 뜨거웠으나, 일부 업계 최상위 기업은 아직 참여 명단에 이름을 올리지 않은 것으로 확인돼 눈길을 끕니다. AI 에이전트의 자율성이 갈수록 커지는 가운데, 이를 안전하게 통제하는 기술 자체가 새로운 경쟁 영역으로 떠오르고 있음을 보여주는 사례입니다.

출처: 파이낸셜뉴스