LLM을 활용한 롱테일 질의 재순위화

이 게시물은 거대 언어 모델(LLM)의 랭킹 능력을 활용하여 검색 엔진에서 롱테일 질의에 대한 문서 재순위화 방법을 설명합니다.

검색 질의 유형과 LLM의 역할

• 탐색형 질의와 정보성 질의 구분
• 롱테일 질의는 희소하고 복잡하여 기존 랭킹 한계 존재
• LLM 기반 재순위화로 세부 맥락 이해 및 정확도 향상

기존 접근법의 한계와 해결책

• 목록 단위 및 개별 단위 랭킹 방식의 응답 속도 및 비용 문제
• 사용자 피드백 데이터 부족, 양방향 인코더와 소형 생성형 모델의 성능 한계
• LLM으로 양질의 정답 데이터셋 구축 후 경량화된 sLM으로 지식 증류

모델 학습과 평가

• BERT 스타일과 GPT 스타일 랭커 학습 방법 소개
• 토큰 선택 및 쌍별 손실 활용, 추론 효율성 확보
• 네이버 HCX를 활용한 데이터셋 구축 및 성능 개선 사례

실제 서비스 적용 및 결과

• 롱테일 질의에 대해 관련 문서 상위 배치로 클릭률 증가 확인
• 의료, 임대 등 다양한 복잡 질의에 효과적 대응
• 후속 연구로 검색 결과 시의성 개선 예정