검색과 피드의 만남: LLM으로 완성하는 초개인화 서비스 ② 사용자 검색 의도 세분화

이 게시물은 사용자 검색 의도 세분화를 위해 네이버의 사내 LLM인 HyperCLOVA X를 활용한 기술적 접근을 설명합니다.

핵심 기술 및 모델 구성

• 질의와 문서 맥락을 통합 고려한 요약 생성 질의(Q*) 개발
• 검색 로그 기반 지도 학습과 소규모 고품질 데이터로 교사·학생 모델 지식 증류 적용
• 대형 모델(HCX-L)으로 데이터 증강 후 경량 모델(HCX-S) 미세 조정

성과 및 최적화

• 학생 모델이 기존 로그 기반 모델 대비 약 7% BERT 스코어 향상
• 서빙 파이프라인에 vLLM 도입으로 QPS 최대 400% 개선 및 효율적 GPU 자원 활용
• AfterSearch와 숏텐츠 서비스에서 CTR 7.74% 상승 등 사용자 경험 개선

향후 계획

• 선호도 최적화와 LLM 정렬 강화, 학생 모델의 논리적 사고 능력 향상
• 다음 시리즈에서 사용자 관심사 주제 분류기 고도화 예정