NeMo Guardrails 소개

이 게시물은 NVIDIA가 개발한 오픈 소스 툴킷 NeMo Guardrails에 대해 설명합니다.

주요 특징

• 대규모 언어 모델(LLM) 기반 AI 애플리케이션의 안전성과 유용성 보장
• YAML 또는 Python 파일로 대화 규칙(Rails)을 정의하여 AI 응답 필터링 및 수정 가능
• 비윤리적 또는 유해한 콘텐츠 생성을 방지하며, 특정 비즈니스 규칙 준수 지원
• Amazon Bedrock에서도 AI 안전 기능으로 제공
• Python 패키지로 설치 가능하며 다양한 AI 모델(OpenAI, Hugging Face 등)과 연동 가능

구성 및 활용

• models와 app 설정을 통해 AI 모델 타입, 엔진, 파라미터, 대화 세션 설정 가능
• rules.yaml 파일로 부적절한 요청 차단 및 특정 응답 사전 정의
• NeMo Guardrails를 활용해 LLM의 입력과 출력을 제어하며 안전한 대화 환경 구현