AI
AI 데이터 분석가 ‘물어보새’ 등장 – 1부. RAG와 Text-To-SQL 활용
두줄요약
사내 데이터 활용 어려움을 해결하기 위해 AI 데이터 분석가 ‘물어보새’를 개발한 과정을 소개했습니다. RAG, Text-to-SQL, LLMOps를 결합해 쿼리 생성과 해설, 검증 기능을 고도화했습니다.
핵심 내용
- 사내 데이터 활용 어려움을 해결하기 위한 AI 데이터 분석가 서비스 ‘물어보새’ 개발기
- LLM, RAG, LangChain, LLMOps를 기반으로 자연어를 SQL로 변환하고 쿼리 해설·검증·테이블 탐색까지 지원하는 구조
- 비정형 데이터 수집, VectorDB 인덱싱, 멀티 체인 라우팅, Slack 기반 응답, 자동 배포와 모니터링을 결합한 아키텍처
- 도메인 특화 Text-to-SQL 품질 향상을 위해 데이터 보강, 검색 알고리즘, 프롬프트 엔지니어링, 평가 시스템을 반복 개선
적용해볼 점
- 사내 용어와 메타데이터를 체계화해 RAG 성능을 높이는 접근
- A/B 테스트와 리더보드로 LLM 기능을 운영 수준까지 검증하는 방법
- 사용자 피드백과 캐시 반영으로 지식을 표준화하는 운영 방식