📝 LLM(ChatGPT)의 할루시네이션은 극복 가능한 문제인가? tl;dr 극복 가능 할루시네이션, 환각이라고 하는 문제의 핵심은 모르는 것을 모른다고 하지 않고, 어떻게든 말을 끝까지 완성

📝 LLM(ChatGPT)의 할루시네이션은 극복 가능한 문제인가? tl;dr 극복 가능 할루시네이션, 환각이라고 하는 문제의 핵심은 모르는 것을 모른다고 하지 않고, 어떻게든 말을 끝까지 완성하려고 하기 때문에 발생하는 문제입니다. 따라서, 문제가 명확하기 때문에 해결 방법도 명확하므로, 간단하진 않겠지만 해결은 가능하다고 봅니다. 단순하게 생각하면, 학습한 내용에 없는 지식을 물어보면 답변을 하지 않도록 훈련시키고, moderation API 에 질문에 대해 답변 할 수 있는 내용인지를 체크하는 기능을 만들거나, 답변의 정보가 맞는지를 확인하는 기능을 넣으면 되는 것이죠 지금도 프롬프트 엔지니어링으로 어느정도 가능하고, LLM의 성능이 좋아져서 컨텍스트에 있는 정보만을 사용하도록 하는 지시를 정확하게 받아들이도록 한다면 컨텍스트를 이용한 답변은 할루시네이션을 거의 100% 방지 할 수 있을 것 입니다. LLM을 응용하는데에 있어 핵심은 말을 생성하게 하는 것이 아니라, 컨텍스트를 이해하고 그에 따라 정보를 가공해서 전달하는 과정에 있기 때문에, 할루시네이션 문제는 다른 문제들보다 어렵지 않게 풀릴 것으로 생각합니다. LLM 활용을 위한 컨텍스트 사용과 할루시네이션을 방지하기 위한 프롬프트 엔지니어링에 대한 내용을 아래 강의에서 모두 담고 있습니다. 많은 관심 부탁드립니다. 🤗 https://fastcampus.co.kr/data_red_golbin