앤트로픽 "소형 AI도 IoT 기기 감염시켜 스스로 복제 가능"…'AI웜' 경고

앤트로픽이 매개변수 300억개 이하의 소형 AI 모델도 취약한 기기를 찾아내고 접근해 자기 자신을 복제하는 과정을 상당 부분 자동화할 수 있다는 연구 결과를 공개했습니다. 연구진에 따르면 'GLM-5.2'급 이상의 모델은 취약 기기 탐색부터 모델 복사, 추론 환경 구축까지 전체 과정을 끝까지 수행했으며, 모델 성능이 빠르게 발전하는 추세를 고려하면 연말쯘에는 더 작은 모델도 같은 능력을 갖출 수 있다고 내다봤습니다. 이런 형태의 위협을 'AI웜'이라고 부르는데, 모델 가중치 자체가 악성코드처럼 퍼지며 감염된 하드웨어에서 직접 추론을 실행하고, 낯선 기기의 특성을 스스로 파악해 실행 방식을 바꿀 수 있다는 점이 특징입니다. 여러 기기에 모델이 나뉘어 배치되는 '스웜' 형태로 진화하면 방어가 한층 어려워질 수 있습니다. 연구진은 실험에서 대당 55달러짜리 안드로이드TV 박스 15대를 연결해 구글의 'Gemma4-26B-A4B' 모델을 분산 구동하는 데 성공했는데, 고성능 데이터센터 없이도 가능하다는 점을 보여준 사례입니다. 보안카메라나 로봇청소기처럼 보안이 허술한 가정용 IoT 기기 전반이 잠재적 표적이 될 수 있다고 지적했습니다. 다만 실험은 통제된 환경에서 일부만 이뤄져 실제 인터넷 전체로 확산될 가능성은 추가 검증이 필요하며, 중앙 서버를 끄는 '킬 스위치' 방식만으로는 대응이 어려울 수 있다고 덧붙였습니다. 영국 국가사이버보안센터(NCSC) 전 책임자는 기술적 의미는 인정하면서도 위험이 다소 과장됐다는 평가를 내놓았습니다.

출처: AI타임스