서버 증설 없이 대규모 트래픽 처리 방법

이 게시물은 토스 라이브 쇼핑 보기 서비스가 급증하는 트래픽을 서버 증설 없이 효율적으로 처리한 경험을 공유합니다.

핵심 문제와 해결책

• Redis 과부하 문제: Universal Data와 User-Specific Data를 구분하여 Local Cache와 데이터 압축으로 부하를 줄임
• 선착순 포인트 지급과 데이터베이스 과부하: Distributed Lock과 Redis 캐시, Kafka 비동기 Insert, Increment 커맨드 활용으로 중복 지급 방지 및 데이터베이스 부하 완화
• API 중복 요청 및 Gateway 과부하: 클라이언트와 협업하여 중복 요청 제거 및 API 통합으로 트래픽 및 부하 감소

지속적 성능 개선

모니터링 환경 구축과 프로파일러 활용, 이터레이션을 통한 문제 조기 발견 및 해결로 리소스 절약과 안정적 서비스 운영을 강조합니다.