알아두면 좋은 LLM 관련 깃허브 리포지토리

1️⃣ GPTCache https://github.com/zilliztech/GPTCache LLM 비용을 낮추고 응답 시간을 줄이는 데 도움 된다. 뿐만아니라 애플리케이션 확장을 돕고 LLM 서비스에 연결하지 않고 개발자가 앱을 테스트하는 데 사용할 수도 있다. 2️⃣ griptape https://github.com/griptape-ai/griptape LLM 워크플로우, 툴, 메모리, 그리고 데이터를 위한 모듈식 파이썬 프레임워크이다. 순차적인 LLM 파이프라인과 분산된 DAG 워크플로우를 구축하고, 외부 도구로 LLM을 증강하며, AI 파이프라인에 메모리를 추가하는 데 사용할 수 있다. 3️⃣ HyperDB https://github.com/jdagdelen/hyperDB LLM 에이전트와 함께 사용할 수 있는 빠른 로컬 벡터 데이터베이스다. 🪴 함께 읽으면 좋은 글: 알아 두면 좋은 깃허브 오픈 소스 10가지 https://careerly.co.kr/comments/72090 코딩 면접 합격을 위한 무료 깃허브 리포지토리 https://careerly.co.kr/comments/69125

GitHub - zilliztech/GPTCache: GPTCache is a library for creating semantic cache to store responses from LLM queries.

GitHub

GitHub - zilliztech/GPTCache: GPTCache is a library for creating semantic cache to store responses from LLM queries.

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2023년 4월 30일 오후 8:21

 • 

저장 44조회 5,825

댓글 0

    함께 읽은 게시물

    커서 AI를 슬랙과 연결하면 생기는 일

    ... 더 보기

    살아있네

    

    ... 더 보기


    인프라에 관심있는 분께 추천드렸던 책들...

    최근에 인프라에 관심이 있는데 어떤 것들을 공부하면 좋을까? 어떻게 공부하면 좋을까? 질문주신 분이 있어서 이런 저런 이야기를 적다가, 시간이 되시면 이런 책도 읽어보면 좋을 것 같아요. 하고 추천했던 책들을 정리해봤어요. ---- https://www.yes24.com/Product/Goods/44376723 DevOps와 SE를 위한 리눅스 커널 이야기 - 강진우 저 리눅스 서버 운영할 때 어떤 부분들을 신경써야 하는지, 어떤 지표들을 어떻게 모니터링해야 하고, 문제상황에... 더 보기

     • 

    댓글 1 • 저장 115 • 조회 7,731


    컨텍스트 스위칭 - AI 코딩 부작용

    ... 더 보기

    컨텍스트 스위칭 - AI 코딩 부작용

    K리그 프로그래머

    컨텍스트 스위칭 - AI 코딩 부작용