On-device SLM기반 Voice-Phishing 탐지 모델 구현

이 게시물은 사용자 단말기에서 작동하는 소형 언어 모델(SLM)을 활용해 보이스 피싱을 탐지하는 방법을 소개합니다.

핵심 구성 요소

• STT(Speech To Text)로 음성을 텍스트로 변환
• SLM을 이용한 보이스 피싱 여부 판단
• 모델 학습용 데이터 확보 및 전처리
• 모바일 환경에서 모델 구동을 위한 플랫폼 활용

장단점 및 모델 선택

• On-device 실행으로 개인정보 보호 가능
• SLM은 LLM 대비 작고 빠르나 성능은 낮음
• Qwen2.5-0.5B-Instruct 모델을 LoRA로 fine-tuning
• 양자화로 모델 크기 감소 가능하지만 정확도 저하 위험

실제 적용과 한계

최종 모델은 mlc_llm 플랫폼과 MLCChat을 통해 모바일에서 구동 가능하며, 실제 서비스 수준의 복잡한 탐지 시스템과는 차이가 있음이 언급됩니다.