Spring AI와 Typesense를 활용한 1,400명 질문 자동응답 시스템 개발

이 게시물은 무신사에서 AI 기반 업무 생산성 혁신 프로젝트인 ‘촤비스’를 통해 사내 1,400명 구성원의 질문에 자동으로 답변하는 시스템 구축 과정을 소개합니다.

핵심 문제와 해결 방향

• 사람에 의존하는 답변의 한계와 실시간성 부족 문제
• 기존 Confluence 문서에 이미 존재하는 정보를 반복 전달하는 비효율 해소

주요 기술과 아키텍처

• AWS Bedrock을 AI 모델로 활용하여 보안과 프라이버시 확보
• Spring AI를 통한 AI 도구 관리 및 실행 흐름 제어
• AWS Kendra를 이용한 초기 지능형 검색 시스템 도입
• 비용 문제로 Typesense 오픈소스 검색엔진과 자체 벡터 임베딩 도입
• 하이브리드 검색(벡터+키워드)을 통해 검색 정확도 향상

성과 및 개선점

• 첫날 200명 이상 사용, 현재 약 450명 활성 사용자
• 질문 횟수 증가 및 정보 접근 장벽 감소 효과
• 짧은 질문에 약한 벡터 검색 문제를 하이브리드 검색으로 보완

결론

촤비스 프로젝트는 AI 기술을 활용해 조직 내 정보검색과 응답 업무의 효율성을 크게 개선하여 전사 생산성 향상에 기여한 성공 사례입니다.