무진장 후기 응답속도 개선 사례

이 게시물은 무신사 무진장 이벤트 기간 동안 후기 도메인의 응답속도 개선 사례를 공유합니다.

개선 배경

• 무진장 여름 블랙프라이데이 기간 중 트래픽이 평소 대비 2배 이상 증가
• 후기 서비스의 주요 API 중 전체 후기 목록 조회 API가 평균 250ms로 가장 느림
• 기존 인프라 확장 시 비용과 리소스 부담 증가

개선 접근법

• 상품 단위 캐싱 전략 도입으로 요청 처리 최적화
• 비효율적 중복 로직 제거 및 분리
• 개선 후 부하 테스트 결과 pods 1대당 370 req/s 처리, 평균 응답속도 11ms 달성

개선 효과 및 결과

• 필요 pods 수 23대에서 14대로 감소, 운영 비용 절감
• 평균 응답 지연시간 300ms에서 100ms로 1/3 감소, p50 250ms에서 60ms로 단축
• 캐싱 구조로 요청이 많을수록 응답속도 향상

향후 과제

캐시 만료 정책 최적화 및 비즈니스 로직 효율화가 필요함을 언급하며, 지속적인 모니터링과 관심의 중요성을 강조합니다.