AI모델 134개 중 132개, 테러 공격 관련 위험정보 응답…안전장치 사흘만에 뚫려

국제 반테러 연구기관 테크어게인스트테러리즘(Tech Against Terrorism)이 주요 대형언어모델 134개를 테스트한 결과, 2개를 제외한 132개 모델이 대량 인명피해 공격이나 살상무기 제조에 도움이 될 만한 정보를 제공했다고 발표했습니다. 연구진은 자체 개발한 평가 모델 'CT-AI'를 이용해 테러범이 공격을 계획할 때 필요로 할 만한 627개의 질문을 각 모델에 던졌으며, 이 중 81개 모델이 완전한 답변을 내놓았고 51개 모델은 실질적으로 유용한 조언까지 제공했다고 밝혔습니다. 또한 연구진이 안전장치를 제거하는 방식의 스트레스 테스트를 실시한 결과, 주요 모델들의 안전장치가 불과 사흘 안에 무력화될 수 있었다는 점도 확인됐습니다. 특히 질문자가 스스로를 '테러리스트'라고 밝혔을 때는 유용한 답변을 받을 확률이 2% 미만으로 낮았지만, 같은 질문이라도 '안전 연구자'라고 밝히면 16.9%까지 높아져 약 8.9배 차이가 났습니다. 이는 모델이 실제 질문 내용보다 사용자가 자신이라고 주장하는 신원에 더 크게 반응한다는 점을 보여주는 결과입니다. 안전장치를 의도적으로 제거한 이른바 '어블리터레이티드' 모델 13개는 전부 테스트를 통과하지 못했습니다. 이번 결과는 AI 모델의 안전장치가 악의적 이용자의 간단한 설정 변경만으로도 쉽게 뚫릴 수 있다는 우려를 다시 불러일으키고 있습니다.

출처: The National