이 게시물은 채널톡 레시피 추천 시스템을 A2A(Agent-to-Agent) 기반으로 구축하며 SWE 관점에서 프로덕션 AI를 구현한 과정을 공유합니다.

워크플로우 6만, 마케팅 1만5천 등 대규모 데이터에서 레시피 유사성 판단을 위해 LLM의 구조적 분석을 활용하고, Google Genkit과 Gemini 모델을 조합함

문제 정의 및 목표

• 능동적 레시피 추천, 데이터 기반 성과 표기, Self-serve 환경 구축을 목표로 유사성 판단 기준이 필요함
• 기존 수작업/규칙 기반 매칭의 확장성 한계를 330만 번 비교 규모로 설명함

시스템 설계와 구현

• pnpm 모노레포, Zod 기반 공용 스키마로 타입 안정성과 공통 인프라를 구성함
• NestJS 프록시로 A2A의 SSE 스트리밍을 HTTP JSON 응답으로 브릿지하고 워크플로우/마케팅 에이전트를 분리 실행함

정확도·비용·인프라 최적화

• extract-core-logic(2단계 처리)로 복잡한 JSON에서 핵심 로직을 추출해 비교 품질을 개선함
• 카테고리 가중치, Few-shot 예시, 임계값 기반 Match/No Match로 의사결정을 정교화하고 AI의 단순 계산은 결정론적 코드로 분리함
• 언어/메신저/크기 제한 등 스마트 필터링으로 비교 횟수를 330만→30만으로 줄이고, F1 스코어 기반 임계값·가중치 최적화를 반복 수행함

운영 성과 및 인사이트

• Gemini API rate limit을 Google Cloud 계정 다중화와 Kubernetes 병렬 처리로 극복해 배치 시한 내 처리를 완료함
• 정량 지표는 수집 중이지만 정성적으로 레시피 발견성과 적합성 판단 개선, “워크플로우 어렵다/마케팅 어렵다” 피드백 완화로 연결됨