카사코리아 AI 챗봇 구축기 Amazon Bedrock 기반 대고객 에이전트형 챗봇 구현 사례

핵심 내용

• Amazon Bedrock 기반으로 대고객 AI 챗봇을 구축한 사례
• Fast-Path FAQ 응답, Advanced RAG, LangGraph 상태 관리형 워크플로우 적용
• 개인화 응답은 내부 API와 비식별화 데이터, Guardrails와 마스킹으로 보호
• VPC, PrivateLink, IAM을 활용해 금융 서비스 수준의 보안성과 운영 적합성 확보

선택 이유

• FAQ는 임베딩 DB 비교로 즉시 응답하고, 복잡한 질의는 RAG로 전환하는 구조 채택
• PostgreSQL 등 기존 인프라와의 정합성, 협업 흐름, 보안 정책을 고려해 검색 인프라 설계

장단점

• 반복 문의는 빠르게 처리하고, 복합 문의는 근거 기반으로 응답하는 균형
• 비용과 응답 속도 개선 기대, 동시에 개인정보 보호와 휴먼 핸드오프까지 고려

적용해볼 점

• 반복 질문과 복합 질문을 분리하는 응답 경로 설계
• 비식별화, 마스킹, Guardrails를 함께 적용한 보호 체계 구축
• 기존 인프라와 운영 정책에 맞는 검색·워크플로우 구조 검토