챗봇 서비스 구축기

이 게시물은 사람인 데이터를 활용하여 LLM 기반 챗봇 서비스를 개발한 과정을 공유합니다.

핵심 기술 및 아키텍처

• OpenAI Function Calling을 활용해 질문 의도를 파악하고 적합한 API 또는 VectorDB 검색을 자동화
• RAG(검색 증강 생성) 기술 도입으로 환각 문제를 줄이고 최신 정보 반영 및 신뢰성 확보
• 프롬프트 엔지니어링을 통해 답변 품질과 안전성 관리
• 다중 제목 활용으로 검색 정확도 향상
• LangGraph 프레임워크로 복잡한 워크플로우를 상태 기반 그래프로 구현하여 유연성과 모듈성 강화
• 멀티테넌시 구조의 Bot 관리 시스템과 모니터링 체계로 안정적 운영과 데이터 기반 개선 지원

성과 및 향후 계획

• 콘텐츠 개선 효과로 약 20% 성능 향상 달성
• 추가 고도화를 통해 사용자 경험 지속 개선 예정