gpt-3.5-turbo 모델 사용시 temperature 를 “0”으로 설정해도 결과가 일정하지 않다. 그리고 어떤 경우는 성능이 더 좋아지고, 어떤 경우는 성능이 더 나빠지기도 한다. 이건 gpt-4 도 비슷하다. 그리고 gpt-4 를 사용할 때 생성 속도가 gpt-3.5-turbo 와 큰 차이가 나지 않는 경우가 높은 비율로 있다. 이와 함께 몇가지 다른 정황을 보면 이런 합리적인(?) 추측을 해 볼 수 있는데, gpt-4 는 조금씩 다른 경향을 가진 gpt-3.5-turbo 모델을 조합하여 추론하는 것이고, gpt-3.5-turbo 는 이 모델 중의 하나로 추론을 하는 것이 아닐까? gpt-4 는 라우팅을 통해 모델 중 하나를 쓰기도 하고, 컨텍스트 길이와 필요한 성능에 따라 모델 두 세개 정도를 조합 혹은 병합해서 쓰는 것이 아닐까?

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2023년 8월 5일 오후 2:09

조회 1,847

댓글 0

    함께 읽은 게시물

    “뜻밖에 아주 야비하고 어이없는 일을 당하더라도 그것 때문에 괴로워하거나 짜증내지 마라. 그냥 지식이 하나 늘었다고 생각하라. 인간의 성격을 공부해가던 중에 고려해야 할 요소가 새로 하나 나타난 것뿐이다. 우연히 아주 특이한 광물 표본을 손에 넣은 광물학자와 같은 태도를 취하라.” 현대판 마키아벨리라 불리는 로버트 그린의 책 <인간 본성의 법칙>은 쇼펜하우어의 말을 인용하는 것으로 시작한다.

    ... 더 보기

    [허연의 책과 지성] 누가 뒤통수를 치거든 경험이 하나 늘었다고 생각하라 - 매일경제

    매일경제

    [허연의 책과 지성] 누가 뒤통수를 치거든 경험이 하나 늘었다고 생각하라 - 매일경제


    공식적으로 뭐하는 회사인지는 모르지만 일단 100억달러 기업가치

    ... 더 보기

    무라티의 싱킹 머신즈, 20억달러 투자 유치..."실리콘 밸리 사상 최대 시드 투자"

    AI타임스

    무라티의 싱킹 머신즈, 20억달러 투자 유치..."실리콘 밸리 사상 최대 시드 투자"

    조회 508


    < 가짜 전문가와 진짜 멘토를 구별하는 법 >

    1. 질문에 대한 답을 제공하는 일을 돈벌이로 삼는 사람은 상대가 누구라도 질문이 같으면 같은 대답을 합니다.

    ... 더 보기

    < 이직을 고민하는 당신이 던져야 할 단 3가지 질문 >

    1. 커리어를 선택하는 기준은 다양하다. 일단 내가 가진 가치관이 가장 큰 영향을 준다. 남들의 시선과 판단도 무시할 수 없다. 이직 트렌드와 경향도 살펴봐야 한다.

    ... 더 보기

     • 

    댓글 1 • 저장 4 • 조회 747