안드로이드에서 On-Device로 Gemma 1 ＆ 2 실행하기

이 게시물은 안드로이드 디바이스에서 구글의 Gemma 1과 Gemma 2 LLM 모델을 On-Device로 실행하는 방법을 안내합니다.

주요 내용

• On-Device 실행의 장점: 개인정보 보호, 인터넷 비연결 환경 사용, 서버 비용 절감
• MediaPipe를 활용한 Gemma 1 모델 실행 방법과 설정
• MLC LLM 엔진을 이용한 Gemma 2 모델 실행과 환경 구축
• 각 모델 실행 시 필요한 SDK, 라이브러리, 빌드 및 테스트 절차 상세 설명

추가 정보

• Gemma 모델의 다국어 지원 및 성능 차이
• 파인튜닝 및 향후 MediaPipe용 모델 변환 작업 예정