서버 0대, 브라우저 SLM으로 만든 차트 추천 봇
AI
서버 0대, 브라우저 SLM으로 만든 차트 추천 봇
두줄요약
브라우저 안에서 동작하는 차트 추천 봇을 만들고, 서버 없이 추론하는 구조를 선택했습니다. 규칙 엔진으로 차트 유형을 정하고 SLM은 설명만 맡겨 안정성을 높였습니다.
핵심 내용
- CSV나 테이블 데이터를 입력하면 적합한 차트 유형과 이유를 한국어로 설명하는 브라우저 기반 차트 추천 봇 구현
- 서버 없이 브라우저 안에서 추론하는 방향을 택하고, Chrome Prompt API, WebLLM, Transformers.js, 서버 SLM을 비교 검토
- 최종적으로 Transformers.js와 WebGPU/WASM 폴백 구조를 선택해 크로스 브라우저 지원과 프라이버시, 비용 절감을 함께 고려
- 차트 유형 결정은 규칙 엔진이 맡고, SLM은 추천 이유와 데이터 포인트 설명만 담당하도록 역할 분리
적용해볼 점
- 판단과 표현 분리로 SLM 환각과 출력 편차 완화
- Web Worker와 스트리밍으로 무거운 추론이 UI를 막지 않도록 구성
- 파싱 실패나 애매한 입력은 bar 차트로 폴백해 안전성 확보