[Nvidia, AI chatbot 오답 방기 위한 S/W 공개]

- Nvidia 'NeMo Guardrails'는 AI 모델이 잘못된 정보나 유해한 주제 언급, 보안 헛점 노출을 방지하기 위해 개발한 S/W layer - 사용자 및 LLM 또는 AI Tool 사이에 배치해 AI Chatbot 등이 조작된 정보나 욕설 들을 말하기 전에 차단토록 고안 - 고객 서비스, 기업 인사팀 등의 Chatbot은 물론, LLM 답변 전 다른 LLM 답변을 재확인하는데도 NeMo Guardrails 이용 가능 - NeMo Gaurdrails은 Nvidia 서비스를 통해 오픈 소스로 제공되며, Colang 프로그래밍어로 AI 모델용 Rule 들을 customize 가능

Nvidia has a new way to prevent A.I. chatbots from 'hallucinating' wrong facts

CNBC

Nvidia has a new way to prevent A.I. chatbots from 'hallucinating' wrong facts

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2023년 4월 26일 오후 8:30

댓글 0

    함께 읽은 게시물

    다이스(Dice)의 2022년 보고서에 따르면 응답자의 52%가 내년에 이직할 가능성이 있다고 답했다. 1년 전에는 44%가 그렇게 응답했다. 조직의 아젠다를 추진하는 데 있어 우수한 인재는 매우 중요하다. 인재의 상실이 얼마나 큰 대가를 치르게 하는지는 누구나 잘 알고 있을 터다.

    ... 더 보기

    ‘이제 떠나야겠군...’ IT 직원들이 퇴사하는 12가지 이유

    CIO

    ‘이제 떠나야겠군...’ IT 직원들이 퇴사하는 12가지 이유

    < 아무리 따라 해도 ‘애플’이 될 수 없는 이유 >

    1. 기술도 디자인도 무척 모방이 쉽다. 디자인은 바로 똑같이 따라할 수 있으며 대부분의 기술은 리버스 엔지니어링이 가능하다.

    ... 더 보기

    < 가장 강력한 마케팅은 당신의 철학을 공개하는 것이다 >

    1. ’무엇‘과 ’어떻게‘는 일정한 기준으로 측정 가능하며 우열도 가릴 수 있지만 ’왜‘는 그 사람만의 삶의 방식에 따른 것으로 고유성을 갖는다.

    ... 더 보기

    < 상대방이 스스로 이겼다고 착각하게 만들어라 >

    1. 설득의 가장 효과적인 방법은 '설득하지 않는 것'이다.

    ... 더 보기

     • 

    댓글 1 • 저장 2 • 조회 507


    “퇴사하고 싶습니다.” 최근 한 기업의 대표님이 가슴 아팠던 직원의 퇴사 이야기를 터놓았습니다. 사실 아직도 퇴사 사유를 정확히 잘 모른다고 합니다. 그 확고함에 어쩔 수 없이 보냈을 뿐. 많은 대표님이 비슷한 경험을 해봤을 것입니다.

    ... 더 보기

    퇴사를 막는 CEO의 올바른 대처 방법 | 티피아이 인사이트,퇴사를 막는 CEO의 올바른 대처 방법

    티피아이 인사이트,티피아이 인사이트

    퇴사를 막는 CEO의 올바른 대처 방법 | 티피아이 인사이트,퇴사를 막는 CEO의 올바른 대처 방법

    < 찰리 멍거가 말하는 인생의 가장 간단한 규칙 >

    1. 할머니의 규칙은 구체적으로 말하면, 아이들이 디저트를 먹기 전에 먼저 당근을 먹여야 한다는 겁니다.

    ... 더 보기