1️⃣ GPTCache
https://github.com/zilliztech/GPTCache
LLM 비용을 낮추고 응답 시간을 줄이는 데 도움 된다. 뿐만아니라 애플리케이션 확장을 돕고 LLM 서비스에 연결하지 않고 개발자가 앱을 테스트하는 데 사용할 수도 있다.
2️⃣ griptape
https://github.com/griptape-ai/griptape
LLM 워크플로우, 툴, 메모리, 그리고 데이터를 위한 모듈식 파이썬 프레임워크이다. 순차적인 LLM 파이프라인과 분산된 DAG 워크플로우를 구축하고, 외부 도구로 LLM을 증강하며, AI 파이프라인에 메모리를 추가하는 데 사용할 수 있다.
3️⃣ HyperDB
https://github.com/jdagdelen/hyperDB
LLM 에이전트와 함께 사용할 수 있는 빠른 로컬 벡터 데이터베이스다.
🪴 함께 읽으면 좋은 글:
알아 두면 좋은 깃허브 오픈 소스 10가지
https://careerly.co.kr/comments/72090
코딩 면접 합격을 위한 무료 깃허브 리포지토리
https://careerly.co.kr/comments/69125