AI계의 아이돌 Andrej Karpathy의 말에 따르면, LLM의 할루시네이션은 버그가 아니라 기능이라고 합니다. LLM은 항상 꿈을 꾸고 있는 상태다라고 표현을 했는데요.

저도 LLM의 할루시네이션 관련된 이야기를 할 때면, 기억의 저 편에 있는 것을 끄집어 내 오거나, 그런가 아닌가? 싶은 얘기도 열심히 말을 만들어서 이야기하기 때문이라고 이야기합니다.

사실 인간도 마찬가지로, 특정 영역에 대한 일을 전문적으로 하는 사람이거나, 시험을 보거나 하는 경우가 아니라면 대부분 할루시네이션 상태에(수다, 아무말, 공상 등) 있다고 봐도 무방하다고 생각하는데요.

즉, 이것이 창의성을 발휘하게 만드는 요소 중 하나이기 때문에 기능이라고 말 할 수 있는 것 같습니다. 항상 정답만 말한다면 그것은 그냥 계산기나 마찬가지일테니까요. 그리고 이것이 컴퓨터가 계산기를 넘어 진정한 Artificial Intelligence 로 발전할 수 있는 가장 중요한 포인트가 아닌가 싶구요.

이렇게 생각한다면 LLM의 할루시네이션 극복은 모델의 개선이 아니라, 대부분의 경우 정보 검색이나 툴을 이용해 해결하는, 인간과 같은 방식으로 해결하는 것이 역시 맞는 방향이 아닐까 싶습니다.