RAG 기반 AI 서비스의 신뢰성을 확보하는 방법: 자동화 평가 체계 및 운영 최적화
RAG 기반 AI 서비스의 신뢰성을 확보하는 방법: 자동화 평가 체계 및 운영 최적화
RAG 서비스의 신뢰성을 높이기 위해 RAGAS와 LLM-as-a-Judge 기반 자동 평가 체계를 소개했습니다. 또한 시맨틱 캐싱과 가드레일을 활용한 운영 최적화 방안도 함께 제시했습니다.
#RAG#LLMOps
55005분
필터 1
AI를 지탱하는 MLOps: Kubeflow와 MLflow를 활용한 AI 개발 시스템 구축
AI를 지탱하는 MLOps: Kubeflow와 MLflow를 활용한 AI 개발 시스템 구축
AI 개발과 실서비스 적용을 위해 MLOps 기반 시스템 구축 필요성을 다뤘습니다. Kubeflow와 MLflow 활용을 주제로 하지만 본문 정보는 제한적입니다.
#MLOps#Kubeflow
0005분
GitLab은 MLOps를 어떻게 최적화할까?
GitLab의 MLOps 기능과 역할을 소개하며 모델 관리와 배포 자동화를 설명했습니다. Model registry와 실험 추적 기능으로 협업과 운영 효율을 높이는 방향을 제시했습니다.
#GitLab#MLOps
19005분
GitLab은 MLOps를 어떻게 최적화할까?
GitLab의 MLOps 기능을 중심으로 모델 등록과 실험 추적 방식을 살펴봤습니다. CI/CD와 연동해 ML 배포와 관리를 자동화하는 흐름을 소개했습니다.
#GitLab#MLOps
28005분