- Nvidia 'NeMo Guardrails'는 AI 모델이 잘못된 정보나 유해한 주제 언급, 보안 헛점 노출을 방지하기 위해 개발한 S/W layer
- 사용자 및 LLM 또는 AI Tool 사이에 배치해 AI Chatbot 등이 조작된 정보나 욕설 들을 말하기 전에 차단토록 고안
- 고객 서비스, 기업 인사팀 등의 Chatbot은 물론, LLM 답변 전 다른 LLM 답변을 재확인하는데도 NeMo Guardrails 이용 가능
- NeMo Gaurdrails은 Nvidia 서비스를 통해 오픈 소스로 제공되며, Colang 프로그래밍어로 AI 모델용 Rule 들을 customize 가능