[분석] MLOps에서 LLMOps로, 아직 끝나지 않은 진화의 서막

핵심 내용

• MLOps를 AI 모델의 학습·배포·모니터링을 반복 가능한 공정으로 보는 관점
• 데이터 검증, 파이프라인 자동화, 자원 스케줄링, 거버넌스까지 포함한 운영 복잡성
• 생성형 AI 확산으로 프롬프트, 컨텍스트, 정책, 실행 흐름을 다루는 LLMOps와 AgentOps로 확장
• RAG, 실행 그래프 수준 모니터링, 다면 평가 지표 등 운영 기준의 재정의

적용해볼 점

• 도구 기능보다 책임 범위와 실패 시 복구 절차를 먼저 설계
• 프롬프트와 실행 흐름의 버전 관리, 회귀 방지 테스트, 표준 스키마 기반 관측 체계 확보
• 조직 규모와 성숙도에 맞춰 단계적으로 플랫폼과 공정을 분리