AI계의 아이돌 Andrej Karpathy의 말에 따르면, LLM의 할루시네이션은 버그가 아니라 기능이라고 합니다. LLM은 항상 꿈을 꾸고 있는 상태다라고 표현을 했는데요.


저도 LLM의 할루시네이션 관련된 이야기를 할 때면, 기억의 저 편에 있는 것을 끄집어 내 오거나, 그런가 아닌가? 싶은 얘기도 열심히 말을 만들어서 이야기하기 때문이라고 이야기합니다.


사실 인간도 마찬가지로, 특정 영역에 대한 일을 전문적으로 하는 사람이거나, 시험을 보거나 하는 경우가 아니라면 대부분 할루시네이션 상태에(수다, 아무말, 공상 등) 있다고 봐도 무방하다고 생각하는데요.


즉, 이것이 창의성을 발휘하게 만드는 요소 중 하나이기 때문에 기능이라고 말 할 수 있는 것 같습니다. 항상 정답만 말한다면 그것은 그냥 계산기나 마찬가지일테니까요. 그리고 이것이 컴퓨터가 계산기를 넘어 진정한 Artificial Intelligence 로 발전할 수 있는 가장 중요한 포인트가 아닌가 싶구요.


이렇게 생각한다면 LLM의 할루시네이션 극복은 모델의 개선이 아니라, 대부분의 경우 정보 검색이나 툴을 이용해 해결하는, 인간과 같은 방식으로 해결하는 것이 역시 맞는 방향이 아닐까 싶습니다.

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2023년 12월 13일 오전 3:29

댓글 0

    함께 읽은 게시물


    노력도 배신한다...250714

    1.●관계를 결정하는건 그 사람의 태도이다.
    2.●운이 안따른다고 생각이 들면 좀 기다려야 한다.

    ... 더 보기

     • 

    저장 2 • 조회 74


    성장이 어려운 환경에서의 개발자 생활

    저런 개발자 생활도 한적이 있어서 다양한 생각이 든다.

    “어이 신입, 탈출각이다” | 요즘IT

    요즘IT

    “어이 신입, 탈출각이다” | 요즘IT

    상위 1% 파이썬 개발자가 사용하는 백엔드 레포지토리 TOP 8

    ... 더 보기

    🐍 8 backend repos used by the top 1% of python devs 🏆

    Medium

    🐍 8 backend repos used by the top 1% of python devs 🏆

    커리어를 쌓아야 할 때 알아야 하는 잔인한 사실들

    1

    ... 더 보기

     • 

    저장 77 • 조회 4,262


    품질 높은 프로젝트는 어떻게 만들어질까? 🤔

    ... 더 보기

    “품질 높은 프로젝트는 어떻게 만들어질까?”

    F-Lab : 상위 1% 개발자들의 멘토링

    “품질 높은 프로젝트는 어떻게 만들어질까?”