DynamoDB 핫 파티션을 해결하는 3가지 방법 (2): 인덱스 테이블로 GSI 떼어내기 구현편

DynamoDB 핫 파티션을 해결하는 3가지 방법 (2): 인덱스 테이블로 GSI 떼어내기 구현편
DynamoDB managed GSI의 핫 파티션을 피하기 위해 인덱스 테이블 분리와 전파 파이프라인 구현 과정을 다뤘습니다. 운영 중에는 버스트 제어와 SQS 적체를 조정해 안정적으로 변경분을 반영했습니다.
#DynamoDB#AWS
4005분
새로운 기술 블로그가 추가되었어요

DynamoDB managed GSI의 핫 파티션을 피하기 위해 인덱스 테이블 분리와 전파 파이프라인 구현 과정을 다뤘습니다. 운영 중에는 버스트 제어와 SQS 적체를 조정해 안정적으로 변경분을 반영했습니다.

DynamoDB GSI 핫 파티션이 Boot까지 막는 장애 구조를 분석했습니다. 인덱스 테이블과 스트림 기반 파이프라인으로 쓰기 병목을 분리하는 설계를 소개했습니다.

AWS IoT Core로 가상 디바이스 연결, MQTT 통신, 디바이스 섀도우 제어, 데이터 라우팅까지 실습했습니다. 또한 Kinesis, Lambda, DynamoDB, API Gateway를 연결해 확장 가능한 IoT 흐름을 구성했습니다.

실시간 마케팅을 위해 SNS-Lambda-Kinesis-Flink-DB 파이프라인 PoC를 진행했습니다. 12k RPS 목표를 기준으로 병목을 찾아 SQS 추가와 Flink 최적화로 개선했습니다.


포스코홀딩스는 다수 CCTV의 AI 추론 결과를 Kinesis와 Managed Apache Flink로 실시간 분석했습니다. CloudWatch 필터링, CEP 최적화, State Backend 조정으로 이벤트 감지와 운영 효율을 높였습니다.