생성과 검색의 하모니: RAG로 더 똑똑한 AI 만들기

생성과 검색의 하모니: RAG로 더 똑똑한 AI 만들기
RAG는 외부 문서를 검색해 LLM 답변에 반영하는 방식으로, 최신성 부족과 환각 문제를 보완했습니다. 실전 적용 시에는 데이터 품질, 검색 성능, 지연 시간, 보안까지 함께 고려해야 했습니다.
#RAG#LLM
133005분
새로운 기술 블로그가 추가되었어요

RAG는 외부 문서를 검색해 LLM 답변에 반영하는 방식으로, 최신성 부족과 환각 문제를 보완했습니다. 실전 적용 시에는 데이터 품질, 검색 성능, 지연 시간, 보안까지 함께 고려해야 했습니다.


RAG 구현에 필요한 벡터 DB로 Vespa, Milvus, Qdrant를 설치·사용성·성능 기준으로 비교했습니다. 프로젝트 규모와 검색 요구사항에 따라 적합한 선택지를 정리했습니다.

우아한형제들 기술블로그를 엮은 두 번째 책 “요즘 우아한 AI 개발”을 소개했습니다. AI·데이터·로봇의 실무 적용 사례와 구성 내용을 함께 담았습니다.


실시간 행동 이력과 위치 정보를 반영하는 추천 시스템의 요구사항을 기술 문제로 풀어냈습니다. 벡터 검색 도입 과정에서 pre filter와 ANN의 한계를 검토하고 후보군 실험을 진행했습니다.


AWS와 Azure에서 RAG를 구현하는 방식과 구성 요소를 비교해 정리했습니다. 각 플랫폼의 강점이 달라 프로젝트 요구사항에 맞춰 선택할 필요가 있습니다.