16.9MB 초소형 온디바이스 음성인식 모델 'Whistle' 공개

AI 스타트업 캑터스컴퓨트가 용량이 16.9메가바이트에 불과한 온디바이스 음성인식 모델 '위슬'을 공개했습니다. 영어, 독일어, 프랑스어, 스페인어, 이탈리아어, 네덜란드어, 폴란드어 등 7개 언어를 지원하며, 16kHz 모노 오디오를 한 번에 최대 30초까지 처리할 수 있고 단어 단위 타임스탬프 기능도 갖췄습니다. 회사 발표에 따르면 자체 벤치마크인 리브리스피치 테스트에서 단어 오류율 4.31%를 기록해 오픈AI의 위스퍼 베이스 모델(4.9%)보다 낮았으나, 일부 다른 테스트셋에서는 위스퍼가 더 우수한 것으로 나타났습니다. 애플 M4 프로 CPU 기준으로는 첫 응답까지 11.1밀리초가 걸려, 인터넷 연결 없이도 스마트폰 등 기기에서 빠르게 작동하는 것이 특징입니다. 다만 해당 수치는 회사 자체 측정으로, 독립적인 재현 검증은 아직 이뤄지지 않았습니다.

출처: RuntimeWire