똑쿼리 고도화 일대기
0
AI 요약
이 글은 AI가 원문을 분석하여 핵심 내용을 요약한 것입니다.
이 게시물은 똑쿼리 고도화 일대기입니다.
요약
- 사내 데이터(문서·API·정책 포함)를 LLM으로 질의하는 서비스 목표
- 초기 ChatAgent(CoT) 기반 구현의 유지보수·토큰 낭비·응답 지연 문제
- LangGraph 도입으로 상태(State)/노드(Node)/엣지(Edge) 기반의 명시적 워크플로우 구성
- 기능 확장: 슬랙 스레드 요약, 스레드 임베딩 학습, 자연어 질의(문서·데이터·지라 에이전트)
- OpenWebUI 도입으로 스트리밍 응답·채팅 관리·피드백 기능 개선
- 슈퍼바이저 패턴에서 라우터 패턴으로 전환하여 응답 속도 개선 및 불필요한 재호출 제거
- RAG 정확도 문제에 대해 MultiQueryRetriever 및 문서 재정렬 적용으로 검색 후보 확대 및 순위 보정
- 남은 과제: 멀티모달 지원, 정량적 평가 체계, 피드백 루프 및 LLMOps 구축
