[교육환경 AX와 데스크톱 가상화 ②] 데스크톱 가상화로 한정된 AI GPU 자원 효율적으로 배분하기
데브옵스
[교육환경 AX와 데스크톱 가상화 ②] 데스크톱 가상화로 한정된 AI GPU 자원 효율적으로 배분하기
두줄요약
AI 연구용 GPU가 부족하고 활용률도 낮아 효율적 운영이 필요했습니다. 데스크톱 가상화로 연구 규모에 맞게 나누고 자동 회수해 공정성을 높였습니다.
핵심 내용
- AI 연구용 GPU 품귀와 낮은 활용률로 인해, 보유 자원을 더 효율적으로 배분·운영할 필요성 제기
- 데스크톱 가상화로 GPU를 연구 목적과 규모에 따라 분할 할당하거나 패스스루로 배정하는 방식 제안
- VM 단위 사용량·점유 기록과 자동 초기화를 통해 공정한 배분과 유휴 자원 회수 가능
적용해볼 점
- 연구실 단위 일괄 배정 대신 연구 규모와 용도 기반의 자원 배분 기준 검토
- 사용량·점유 시간 로그를 활용한 공정 배분 정책과 패널티 설계
- 연구 종료 후 VM 자동 초기화로 다음 연구자가 바로 사용할 수 있는 운영 체계 도입