에이닷 RAG 기능 개발을 위한 Qdrant 벡터 DB 구축

이 게시물은 에이닷에서 맞춤형 모델의 실시간 동적 데이터 대응 및 할루시네이션 억제를 위해 RAG 기능 구현에 필수적인 Qdrant VectorDB를 On-premise 환경에서 소스 tarball을 이용해 구축한 과정을 설명합니다.

구축 배경 및 선택 이유

• 파인튜닝 모델에 실시간 업데이트 대응과 외부 데이터 접근을 위해 RAG 기능 활용
• Cloud, Kubernetes, Docker 방식 대신 독립 서버 호스팅을 위한 소스 컴파일 방식 채택
• Qdrant Github Dockerfile 참고해 직접 바이너리 컴파일 및 서비스 운영

구축 과정 요약

• Rust Toolchain 설치 및 필수 라이브러리 설정
• Qdrant 소스 다운로드 후 싱글 스레드 컴파일
• Web UI 경로 구성 및 클러스터 노드 3대 구성
• config.yaml 수정과 노드별 '--uri' 및 '--bootstrap' 옵션으로 클러스터 활성화

운영 환경 및 주의사항

• On-premise RHEL 8.10 환경, 메모리 6GB 이상 권장
• 컴파일 및 클러스터 구성에 필요한 네트워크 설정 필요
• Qdrant 공식 실행 스크립트 미제공으로 사용자 맞춤 서비스 스크립트 작성 필수