📝 LLM의 온도가 추론 정확도에 영향이 없다는 연구
LLM 사용시 온도(Temperature)가 높으면 창의성이 높아지지만 할루시네이션도 같이 높아진다는 것은 일반적으로 알려져 있는 내용인데요.
하지만 그것이 추론(Reasoning)에 있어서는 통계적으로 유의미한 수준의 영향이 없다는 연구입니다.
저도 어렴풋이 그런가? 싶었던 내용인데 그렇다고 하는군요. ㅎㅎ 텍스트 답변이 목표인 경우라면 어느정도는 과감하게 온도를 높여도 될 것 같습니다.
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2024년 7월 11일 오전 8:17
댓글 2
함께 읽은 게시물
장안의 화제 “케이팝 데몬 헌터스”의 제작 기간은 4.5년, 구상 단계부터하면 9년. 제작비는 약 1천억원($70M+) 수준.
역시 뭐든 금방 쉽게 되는 건 없다. 생각보다 엄청난 자금이 들어갔다는 것이 놀라우면서도 부러운 부분. 역시 글로벌이 답이다.
< 창조도 결국, 뒷받침이 필요하다 >
1. 회사의 본체는 오히려 사무에 있습니다. 연구 성과든 작품이든 뭐든 ’상품‘은, 사무가 제대로 돌아가지 않으면 나올 수 없습니다.
실서비스에 반영할 기능을 가끔 바이브 코딩만으로 개발 해 보는데, 두어달 전만해도 어려웠던 구현이 이제 벌써 가능해졌다.
... 더 보기-
