1️⃣ GPTCache
https://github.com/zilliztech/GPTCache
LLM 비용을 낮추고 응답 시간을 줄이는 데 도움 된다. 뿐만아니라 애플리케이션 확장을 돕고 LLM 서비스에 연결하지 않고 개발자가 앱을 테스트하는 데 사용할 수도 있다.
2️⃣ griptape
https://github.com/griptape-ai/griptape
LLM 워크플로우, 툴, 메모리, 그리고 데이터를 위한 모듈식 파이썬 프레임워크이다. 순차적인 LLM 파이프라인과 분산된 DAG 워크플로우를 구축하고, 외부 도구로 LLM을 증강하며, AI 파이프라인에 메모리를 추가하는 데 사용할 수 있다.
3️⃣ HyperDB
https://github.com/jdagdelen/hyperDB
LLM 에이전트와 함께 사용할 수 있는 빠른 로컬 벡터 데이터베이스다.
🪴 함께 읽으면 좋은 글:
알아 두면 좋은 깃허브 오픈 소스 10가지
https://careerly.co.kr/comments/72090
코딩 면접 합격을 위한 무료 깃허브 리포지토리
https://careerly.co.kr/comments/69125
최근에 인프라에 관심이 있는데 어떤 것들을 공부하면 좋을까? 어떻게 공부하면 좋을까? 질문주신 분이 있어서 이런 저런 이야기를 적다가, 시간이 되시면 이런 책도 읽어보면 좋을 것 같아요. 하고 추천했던 책들을 정리해봤어요.
----
https://www.yes24.com/Product/Goods/44376723
DevOps와 SE를 위한 리눅스 커널 이야기 - 강진우 저
리눅스 서버 운영할 때 어떤 부분들을 신경써야 하는지, 어떤 지표들을 어떻게 모니터링해야 하고, 문제상황에... 더 보기