RAG 기반 AWX 지원 봇 도입 사례

이 게시물은 LINE의 SR 팀이 반복되는 문의 대응 효율화를 위해 RAG(Retrieval-augmented generation) 기법을 적용한 AWX 지원 봇 도입 사례를 소개합니다.

주요 구현 요소

• Slack 봇 프레임워크: Bolt for Python
• LLM 프레임워크: LangChain
• 임베딩 모델: paraphrase-multilingual-mpnet-base-v2
• 벡터 DB: OpenSearch
• LLM: OpenAI(ChatGPT)

RAG 기법과 벡터 검색

• LLM 한계 보완을 위해 신뢰할 수 있는 외부 데이터 콘텍스트를 함께 제공
• 임베딩과 벡터 검색으로 사용자의 문의와 유사한 문서 및 Slack 스레드를 선별

AWX 지원 봇 워크플로

• 사용자 문의 접수 후 유사 문서 및 스레드 검색
• 검색된 데이터와 문의를 LLM에 전달하여 답변 생성
• 사용자가 답변 평가 후 문제 해결 시 종료, 미해결 시 관리자 호출

참조 데이터

• 사내 AWX 가이드 문서
• Slack에서 임베드 이모지로 선별한 과거 질문/답변 스레드

효과 및 전망

RAG 기반 봇 도입으로 AWX 관리자의 리소스 절감과 문의 대응 효율성 향상을 달성하였으며 향후 다른 서비스 업무 부하 감소 봇 개발 계획을 기대하고 있습니다.