토스증권 Apache Kafka 데이터센터 이중화 구성 #1
112
AI 요약

이 글은 AI가 원문을 분석하여 핵심 내용을 요약한 것입니다.

토스증권 Apache Kafka 데이터센터 이중화 구성 개요

이 게시물은 토스증권의 Kafka 데이터센터 이중화 구성에 대해 설명합니다.

이중화 필요성 및 아키텍처

  • 데이터센터 장애에도 정상 서비스 제공을 위해 Kafka 이중화가 필수적임
  • Active-Active 구성과 Stretched Cluster 구성 두 가지 아키텍처 소개
  • Active-Active는 독립 클러스터 간 양방향 데이터 미러링과 Consumer Group Offset Sync 필요
  • Stretched Cluster는 하나의 클러스터로 구성해 운영 편리하지만 네트워크 단절 시 Split-brain 문제와 성능 저하 단점 존재

토스증권 선택과 운영 전략

  • 가용성 확보와 성능 저하 방지를 위해 Active-Active 구성을 선택
  • 서비스 개발자의 부담을 줄이기 위해 양쪽 클러스터에 동일한 토픽명을 사용
  • Producer는 Split DNS, Consumer는 GSLB DNS를 활용해 지역성 및 장애 대응 구현
  • Consumer Group Offset Sync의 중요성과 복잡성은 3부에서 상세히 다룸

향후 계획

토스증권은 이중화 구성의 운영 부담을 극복하고 안정적인 Kafka 운영을 위해 3부작을 통해 데이터 미러링과 Offset Sync 구현을 이어서 설명할 예정입니다.