SSG.COM 사내 Agent 개발기

이 게시물은 SSG.COM AI팀에서 사내 문서 검색을 편리하게 하기 위해 개발한 자연어 처리 기반 Agent에 대해 설명합니다.

개발 배경과 필요성

• 기존 키워드 기반 검색의 불편함과 보안 문제로 외부 AI 서비스 사용 불가
• 자연어 대화형 검색으로 문서와 담당자, 규정 등을 쉽게 찾기 위한 시도

Agent 및 워크플로우 설계

• LLM 기반 Agent의 개념과 ReAct(생각→행동→관찰) 루프 적용
• Prompt Chaining, Routing, Parallelization 등 다양한 워크플로우 패턴 활용
• Confluence API를 활용한 문서 검색 및 LLM으로 쿼리 생성과 적절성 평가

특화 에이전트와 최적화

• 업무 담당자(R&R) 및 사내 규정 검색용 특화 모델 개발, OCR과 재귀 탐색 활용
• 응답 속도 개선을 위한 토큰 길이 조절과 모델 분기 처리, 사용자 대기 피드백 제공

향후 계획

• Microsoft Teams 연동으로 사용자 접근성 강화
• 워크플로우 기반에서 더 유연한 에이전트 기반 시스템으로 진화