SLM 기반 Agentic AI: Planner–Caller–Generator 구조 설계와 성능 분석

이 게시물은 한컴 인공지능기술팀이 제안한 경량 언어모델(SLM) 기반 Agentic AI 구조인 P–C–G(Planner–Caller–Generator)의 설계와 성능을 소개합니다.

핵심 내용

• 대형 언어모델(LLM)의 비용, 응답 지연, 자원 소모 문제를 해결하기 위해 역할을 분리한 구조를 제안
• Planner가 초기 계획을 수립하고 필요 시에만 재계획을 수행하여 토큰 사용량과 지연 시간을 줄임
• 한국어 환경에서 GPT-4o-mini 수준의 성능과 효율성을 달성
• 400개 평가 항목과 공공데이터 API를 활용한 실험에서 높은 정확도와 효율성 입증
• 기존 ReAct 방식 대비 토큰 절감 및 응답 속도 개선 효과 확인

향후 연구 방향

• Planner 모듈 경량화 및 캐싱으로 지연 단축
• 누락 파라미터 보완과 보안 강화