에이닷 개인화 경험을 위한 메모리 도입기

이 게시물은 에이닷에 Agentic Memory를 도입하여 사용자 대화를 구조화하고 개인화된 응답을 제공하는 방법을 설명합니다.

주요 기능

• 중요 정보의 추출 및 병합으로 기억 업데이트
• 맥락 기반 메모리 조회로 맞춤형 답변 제공
• 이벤트 기반 비동기 처리로 사용자 응답 속도 보장
• DSPy를 활용한 자동 프롬프트 최적화로 개발 효율 및 성능 향상

개발 과정과 시행착오

• 기억할 정보 선별을 위한 relevance_score 도입
• 실시간 대신 이벤트 기반 비동기 저장 아키텍처 설계
• 프롬프트 수작업 대신 DSPy 자동화 루프 구축

이를 통해 에이닷은 단순 챗봇을 넘어 장기적 개인화 경험을 제공하는 에이전트로 진화하고 있습니다.