목록 보기
원티드랩 데이터 마트 — 설립기
백엔드

원티드랩 데이터 마트 — 설립기

원티드
원티드
2023년 11월 28일

두줄요약

원티드랩의 데이터 마트 설계 과정을 ERD 작성부터 운영 규칙 정립까지 정리했습니다. BigQuery와 Airflow를 활용해 확장성과 품질을 높인 운영 방식도 소개했습니다.

핵심 내용

  • 원티드랩 데이터 마트 설계·구축 과정 정리
  • BigQuery 기반 뷰테이블 현황에서 출발해 ERD 작성, 우선순위 설정, 컬럼 설명 보완 진행
  • 확장성·독립성·품질을 기준으로 테이블 구조와 운영 규칙 수립

구조와 흐름

  • 원천 테이블과 뷰테이블 코드 분석으로 사용 빈도 높은 테이블·컬럼 파악
  • PK·FK, cardinality, 컬럼 타입을 기준으로 ERD 구성
  • 테이블 단위 분리, json·Python 활용한 컬럼 확장, 집계·출처·불리언 네이밍 규칙 정립

성능/운영 포인트

  • 뷰테이블 직접 조회로 인한 쿼리 비용 부담 해소
  • join이 많은 구조에서 실행 시간과 반복 실행 부담 완화
  • Airflow DAG 스케줄러와 Python 코드 베이스로 마트 생성·가공 자동화

적용해볼 점

  • 마트 설계 전 ERD와 데이터 관계도 먼저 정리
  • 데이터 사용 기준과 UTC, 네이밍 규칙 등 품질 규칙 사전 정의
  • 대시보드, 쿼리 추출, GPT 기반 슬랙봇 등 후속 활용을 고려한 운영 설계

다음 읽기

#Airflow 주제를 다룬 다른 회사 글

처음부터 ‘딸깍’은 아니다: AI와 함께한 데이터 환경 구축기

운영 DB 중심 분석의 한계를 넘기 위해 S3, Athena, Airflow, dbt 기반 데이터 환경을 구축했습니다.\nAI skill로 소스 연결, 모델링, 문서화를 자동화하며 실무 생산성을 높였습니다.

딜라이트룸
딜라이트룸
AI

댓글 0

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...