데브옵스
Kubernetes-native 로그 플랫폼
두줄요약
Kubernetes 환경에 맞춰 로그 플랫폼을 다시 설계해 서비스 통합 비용을 줄였습니다. 로그 성격별 파이프라인 분리와 다양한 저장 형식 지원으로 확장성과 운영 효율도 높였습니다.
문제 상황
- 기존 로그 플랫폼이 Kubernetes MSA 환경 변화와 맞지 않아 서비스 통합 비용 증가
- protobuf 기반 단일 로그 구조와 BigQuery 일원화로 인한 외부 통합 한계와 비용 비효율
해결 방법
- agent를 daemonset으로 배포하고 pod annotation 기반 설정으로 Kubernetes-native 통합 구성
- NATS JetStream, S3, ClickHouse, Redash를 조합해 수집·저장·조회 파이프라인 분리
- 서버 요청 로그와 서버 이벤트 로그를 분리해 BigQuery 의존성 축소
성능/운영 포인트
- Kubernetes informer, leader election 기반 discovery로 control plane 부담 완화와 고가용성 확보
- protobuf를 내부 schema로 유지하면서 JSON, CSV, Parquet 등 다양한 serialization 지원
- Helm, Terraform, Prometheus, Grafana로 배포와 모니터링 체계 구성