밑바닥에서 개선한 추천시스템 with Two-Tower Model

이 게시물은 KREAM에서 Matrix Factorization 기반 추천시스템에서 Two-Tower Neural Network 모델로 전환한 경험과 구현 과정을 공유합니다.

추천시스템 진화 과정

• 초기 인기상품 추천에서 개인화 추천으로 발전
• Matrix Factorization의 한계와 Cold-start 문제 극복 필요성
• Two-Tower 모델 도입으로 사용자 고유 클릭 수 증가

Two-Tower 아키텍처 및 구현

• 사용자와 아이템 인코더를 별도로 구성해 임베딩을 생성
• 내적(dot product)과 활성화 함수로 추천 점수 산출
• Tensorflow와 tensorflow-recommenders 라이브러리를 활용한 모델 구현

핵심 학습 기법과 최적화

• In-Batch Sampled SoftMax를 통한 효율적 손실 계산
• LogQ Correction으로 샘플링 편향 보정, 10~20% 성능 향상
• ScaNN 기반 Approximate Nearest Neighbor 검색으로 서빙 속도 개선

결론 및 교훈

• LogQ Correction의 중요성
• MLOps 파이프라인을 통한 실험 재현성 및 관리 효율성
• 데이터 이해가 모델 성능 향상의 핵심