님의 프로필 사진

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2021년 11월 15일 오후 9:43

댓글 0

    함께 읽은 게시물


    차세대 파이썬 패키지 매니저 uv 소개 영상

    h

    ... 더 보기

    타입 안전한 API 모킹으로 프론트엔드 생산성 높이기

    이번에 우아한형제들 기술 블로그에 "타입 안전한 API 모킹으로 프론트엔드 생산성 높이기"라는 새 글을 발행하게 되었습니다.

    ... 더 보기

    Introducing swiftly 1.0

    S

    ... 더 보기

    swiftly 1.0

    iOYES

    swiftly 1.0


    Gemini 2.5 모델의 프롬프트 캐싱도 이제 자동 캐싱을 지원하는군요. 가장 기다렸던 기능!


    요약하면 Flash 는 1024 토큰 이상일 때, Pro 는 2048 토큰 이상일 때 발동!되며, 캐싱된 토큰의 비용은 75% 할인.


    자세한 토큰 갯수 단계나 캐시 만료 시간이 기재되어 있진 않은데, 써 보면서 파악을 해 봐야겠습니다. 챗봇류에서는 선택적으로 사용하면 될 것 같고, 배치성 잡에는 여전히 명시적 캐싱이 낫긴하겠네요.