Finnish researchers call for widespread mask use in open letter
News
다음 내용이 궁금하다면?
이미 회원이신가요?
2020년 6월 3일 오전 10:14
ChatGPT 사용할 때 어떤 모델을 선택해야할지 망설여집니다. 모델명만 봐서는 어떤게 좋은지 모르겠더라고요.
... 더 보기Gemini 2.5 모델의 프롬프트 캐싱도 이제 자동 캐싱을 지원하는군요. 가장 기다렸던 기능!
요약하면 Flash 는 1024 토큰 이상일 때, Pro 는 2048 토큰 이상일 때 발동!되며, 캐싱된 토큰의 비용은 75% 할인.
자세한 토큰 갯수 단계나 캐시 만료 시간이 기재되어 있진 않은데, 써 보면서 파악을 해 봐야겠습니다. 챗봇류에서는 선택적으로 사용하면 될 것 같고, 배치성 잡에는 여전히 명시적 캐싱이 낫긴하겠네요.