에이닷 뮤직 에이전트 Multi Prompt Fine-tuning 도전기

이 게시물은 에이닷 3.0 뮤직 에이전트에서 Multi Prompt Fine-tuning 기술을 적용하여 프롬프트 효율성을 높이고 비용을 절감하려는 시도 과정을 설명합니다.

주요 도전 과제 및 해결책

• gpt-3.5-turbo 모델 사용 시 유니코드 생성 오류와 한글 깨짐 문제 발생
• 학습 데이터 배치 구성 변경으로 유니코드 오류 해결
• 프롬프트 간 간섭 문제를 Few Shot 예제와 교정용 프롬프트 도입으로 완화

gpt-4o-mini 모델 전환의 효과

• 한글 깨짐 현상 현저히 개선
• 할루시네이션 및 민감 어휘 처리 능력 향상
• 멀티턴 대화 분석 능력과 자연스러운 한국어 구사 능력 증대

맺음말

저자는 LLM 기술 발전 속도에 놀라움을 표하며, 앞으로도 다양한 시도를 통해 경험과 지식을 공유할 계획임을 밝혔습니다.