목록 보기
Langchain을 통한 개인블로그 RAG 프로젝트
AI

Langchain을 통한 개인블로그 RAG 프로젝트

메가존클라우드
메가존클라우드
2024년 3월 20일

두줄요약

개인 블로그 기록을 RAG 데이터로 활용해 Streamlit과 LangChain으로 LLM 애플리케이션을 만들었습니다.\n운영 지표, 벡터 DB 연동, 개별 파일 업데이트 최적화까지 직접 겪은 고민을 정리했습니다.

핵심 내용

  • 개인 기록용 웹 플랫폼과 LLM 애플리케이션을 함께 만들며 개인 블로그 RAG 프로젝트를 진행한 사례
  • Obsidian 기반 마크다운 문서를 데이터 소스로 사용하고, Streamlit과 LangChain으로 RAG 애플리케이션을 구성
  • Milvus serverless, Vercel, Streamlit Cloud를 활용해 운영 부담과 비용을 줄이는 방향 채택
  • 페이지 조회수, 언어 설정, 벡터 DB 연동, 메모리 관리, 버전 정책 등 실제 운영 관점의 고민과 개선 과정을 정리

구조와 흐름

  • 기록 습관과 개인 브랜딩을 위한 웹 플랫폼과 LLM 애플리케이션을 병행 구축
  • 로컬 기반 Obsidian으로 스키마 유연성을 확보하고, 이를 RAG 데이터 소스로 활용
  • Streamlit과 LangChain 조합으로 빠르게 프로덕트 형태의 LLM 기능 구현

성능/운영 포인트

  • 모든 문서 재임베딩 대신 개별 파일만 업데이트하도록 구조 변경해 토큰과 비용 절감
  • Google Analytics 플러그인으로 조회수, 체류 시간, 인기 페이지 같은 운영 지표 확인
  • Milvus upsert와 auto_id 충돌, LangChain 추상화 문제 등 구현과 운영에서 발생한 제약 대응

적용해볼 점

  • RAG 데이터는 전체 재처리보다 변경 단위 중심으로 설계하는 방식 검토
  • 레퍼런스가 많은 도구를 우선 고려해 시행착오와 탐색 비용 최소화
  • 기능 추가보다 운영 가능한 구조와 목적 유지의 균형 우선

댓글 0

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...