[Nvidia, AI chatbot 오답 방기 위한 S/W 공개]

- Nvidia 'NeMo Guardrails'는 AI 모델이 잘못된 정보나 유해한 주제 언급, 보안 헛점 노출을 방지하기 위해 개발한 S/W layer - 사용자 및 LLM 또는 AI Tool 사이에 배치해 AI Chatbot 등이 조작된 정보나 욕설 들을 말하기 전에 차단토록 고안 - 고객 서비스, 기업 인사팀 등의 Chatbot은 물론, LLM 답변 전 다른 LLM 답변을 재확인하는데도 NeMo Guardrails 이용 가능 - NeMo Gaurdrails은 Nvidia 서비스를 통해 오픈 소스로 제공되며, Colang 프로그래밍어로 AI 모델용 Rule 들을 customize 가능

Nvidia has a new way to prevent A.I. chatbots from 'hallucinating' wrong facts

CNBC

Nvidia has a new way to prevent A.I. chatbots from 'hallucinating' wrong facts

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2023년 4월 26일 오후 8:30

댓글 0