경량화 레시피: Teacher 지식 조린 소형 모델

이 게시물은 NAVER ENGINEERING DAY 2024에서 발표된 세션 내용을 바탕으로 Large language model(LLM)을 성능 저하 없이 소형 모델로 경량화하는 방법을 소개합니다.

주요 내용

• 서비스용 LLM 모델 경량화 필요성
• 고품질 제목 추천 및 사물 키워드 추출 사례
• 애플리케이션 요구사항을 충족하는 LLM 모델링 전략

행사 소개

NAVER ENGINEERING DAY는 사내 기술 교류 행사로, 다양한 개발 경험과 최신 기술을 공유하는 자리입니다.