Finland bans gatherings of 500+ people
News
다음 내용이 궁금하다면?
이미 회원이신가요?
2020년 3월 12일 오후 1:59
Gemini 2.5 모델의 프롬프트 캐싱도 이제 자동 캐싱을 지원하는군요. 가장 기다렸던 기능!
요약하면 Flash 는 1024 토큰 이상일 때, Pro 는 2048 토큰 이상일 때 발동!되며, 캐싱된 토큰의 비용은 75% 할인.
자세한 토큰 갯수 단계나 캐시 만료 시간이 기재되어 있진 않은데, 써 보면서 파악을 해 봐야겠습니다. 챗봇류에서는 선택적으로 사용하면 될 것 같고, 배치성 잡에는 여전히 명시적 캐싱이 낫긴하겠네요.
24년에 흑자로 전환한 주요 스타트업들
... 더 보기