
[#4 LLM Tutorial With RAG] LLM의무한한 가능성을 해방하는 LangChain
X

X


2024 AWS re:Invent 현장에서 본 AI와 Gen AI 활용 사례를 정리한 후기였습니다. 세션, 엑스포, 네트워킹을 통해 실무 적용 아이디어와 AI 도입 시 고려점을 공유했습니다.


Qdrant의 Collection, Point, CRUD, 검색 기능을 영화 추천 예시로 설명했습니다. 벡터 검색과 필터, Scroll로 유사 영화 추천과 대용량 탐색을 다루었습니다.

네이버는 서치피드 SURF로 검색을 결과 나열이 아닌 연속적 탐색 경험으로 확장했습니다. LLM 기반 임베딩, 맥락텍스트, 실시간 피드백으로 개인화와 최신성을 함께 강화했습니다.

오픈 소스 LLM의 한계를 보완하는 RAG를 소개하는 튜토리얼 글입니다. 설치된 LLM을 활용해 검색 증강 생성 방식을 설명합니다.


TAG를 활용해 CSV 테이블 기반 영화 추천 서비스를 구현하고 RAG와 비교했습니다.\n정형 데이터에서는 TAG가 더 정확한 질의 처리와 비용 효율성을 보였습니다.


RAG는 LLM의 한계를 보완하며 실무에서 빠르게 활용할 수 있는 방식으로 정리했습니다. 다만 성능은 문서 추출과 임베딩, 커스터마이징 이해도에 크게 좌우된다고 보았습니다.


OpenAI Assistant API의 개념과 핵심 구성 요소를 정리했습니다. 파일 검색, 코드 실행, 함수 호출로 맞춤형 AI 어시스턴트를 구축하는 활용 예시를 소개했습니다.


RAGAS를 통해 RAG 시스템을 정량적으로 평가하는 방법을 소개했습니다. 주요 지표와 Streamlit 데모, LangSmith 연동까지 함께 설명했습니다.

토스 프론트엔드 팀은 문서를 찾아가는 대신 질문하면 바로 답을 받는 환경을 만들었습니다. RAG 챗봇과 자동 문서화 봇으로 지식이 흐르는 팀 문화를 구축했습니다.


숙소 리뷰에서 핵심 정보만 뽑아 보여주기 위해 Gen AI 기반 리뷰 하이라이트를 구현했습니다.전처리와 프롬프트 개선, 사람의 검수를 거쳐 숙소별 TOP 키워드를 자동 추출했습니다.
![[에이닷 미디어 에이전트] 대화형 콘텐츠 탐색은 어디까지 왔을까](https://devocean.sk.com/thumnail/2024/10/31/3ae82ea55358fe590deb04dd7f3fc5c5017c61a18a2863712d1a416ac10aa6a3.jpg)

에이닷 미디어 에이전트의 대화형 콘텐츠 탐색 구조와 핵심 기술을 설명했습니다. LLM, RAG, 선제 추천을 활용해 개인화된 검색 경험을 강화했습니다.