LLM 추론 시, temperature는 성능에 영향 주지 않음?!

논문을 닥치는대로 많이 읽다보면 좋은 점 중 하나가 내 의문을 남이 해결해줄 수 있다는 것입니다. temperature의 영향에 대한 궁금증이 있었는데 아래 논문을 읽어보니 다지선다형 문제 (MCQA) 에 있어서 temperature는 성능에 거의 영향을 주지 않는다라는 결과를 볼 수 있었습니다.


그림을 보다시피 되게 다양한 벤치마크, 프롬프트 기법에 대해 일관된 그래프를 볼 수 있습니다. Temperature.. 앞으로 큰 신경쓰지 않아도 되려나요?!


논문 링크: https://arxiv.org/abs/2402.05201

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2024년 2월 10일 오후 3:36

댓글 0