5년만에 최저치를 기록한 SW 개발자 채용 공고
개발자 취업 비법
AI의 개소리를 “환각”이라고 칭하게 되면 나머지 맞는 말은 “정확한 정보 전달”로 이해하게 됩니다.
그런데 LLM은 원래 맞는 말이 아니라 그럴듯한 말을 하게 만들어졌습니다.
맞는 말을 했어도 “맞게 말하기”가 LLM 본연의 의도는 아니고, 틀린 말을 했어도 LLM에겐 그것도 완전히 “정상”입니다.
골빈해커
Chief Maker
LLM이 잘못된 정보를 이야기하는 것을 “환각”이 아니라 “헛소리”라고 이야기해야 한다고 주장하는 논문. 논문의 제목이 “ChatGPT is bullshit”이어서 장난으로 낸 것 같은 매우 강한 제목이지만, 철학과 소속의 저자들이 작성한 논문으로 생각거리를 많이 준다. (bullshit이라는 단어도 사전 정의가 있는 용어) “<헛소리>라는 용어는 LLM의 작동에서 인식하거나 기억하는 것이 일어나고 있다는 의미를 피한다. 또한 우리는 그것이 산출물을 생산할 때마다 그것을 헛소리로 묘사할 수 있다. 인간의 헛소리처럼, 일부 결과물은 사실일 가능성이 높지만, 다른 것들은 그렇지 않을 것이다. 그리고 인간의 헛소리와 마찬가지로, 우리는 이러한 산출물에 의존하는 것을 조심해야 한다.” LLM을 훈련시키는 방법이 출력 결과를 준비된 학습 데이터에 근접하도록 훈련을 시키는 것 뿐이어서, 사실 여부를 전달하는데 관심이 없기 때문에 환각이라는 표현이 적절치 않다는 것. 믿거나 인식한 것을 전달하려는 중에 정보를 잘못 전달하는 것이 아니라, 의도가 없이, 아무 생각 없이 헛소리를 하는 것이라는 의미. “<환각>은 잘못된 은유로, 부정확성 문제에 대한 작동하지 않을 수 있는 해결책을 제안하며, 전문가들 사이에서 AI 정렬에 대한 잘못된 노력으로 이어질 수 있다. 그것은 또한 일이 옳을 때 기계에 대한 잘못된 태도로 이어질 수 있다.“ 인용에 쓴 것 처럼, 연구자들이 올바른 연구 방향을 잡는데 도움이...
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2024년 6월 16일 오전 3:32
댓글 0
함께 읽은 게시물
어제 AI 시대의 개발자 토론회에서 내가 대 AI 시대에는 버전관리 시스템이 필요없을 수도 있다고 생각해야한다는 말을 했는데, 그정도로 파격적인 생각을 해야한다는 이야기긴했지만, 진짜 그럴까?를 다시 한 번 생각해봤다.
우선 버전관리 시스템의 목적은 크게 다음 세 가지다.
AI(LLM) 애플리케이션의 발전 속도가 AI 지능(능력)의 발전 속도를 따라가지 못하고 있는 상태가 되었다. 즉, 이제 AI가 부족한 것이 문제가 아니라, AI의 능력을 100% 활용하지 못하고 있는 것이 문제인 상태가 되었다는 이야기.
defer, 에러 핸들링과 비동기에서 어떻게 활용할까?
d
‘똑부(똑똑하고 부지런하기)보다 똑게(똑똑하지만 게으른) 리더가 되라.’ 리더십 코칭에서 빠지지 않는 훈수다. 현장 리더들의 말을 들어보면 실행이 쉽지 않다.
... 더 보기
