세콰이어 캐피털이 투자한 회사들이 LLM을 적용한 현황

세콰이어 캐피털 LLM 스택 리포트는 세콰이어 캐피털이 투자하거나 네트워크를 형성한 33개 기업을 대상으로 조사한 내용입니다. ✔️ 조사 대상 기업의 65%가 LLM 적용 애플리케이션을 보유하고 있습니다. 두 달 전엔 50%였는데 65%로 상승했습니다. ✔️ 이중에 94%가 LLM API 사용하는데 오픈AI의 GPT를 사용하는 어플리케이션이 91%라고 합니다. 뚜렷한 선호를 보여주고 있어요. ✔️ 88%는 벡터 데이터베이스(장기적인 맥락을 효과적으로 관리해서 정확도를 높이고 환각을 줄이는 역할)와 같은 검색 메커니즘이 스택의 핵심 부분으로 남을 것이라고 응답했습니다. ✔️ 38%는 LangChain과 같은 LLM 오케스트레이션(LLM 모델을 효율적으로 실행하고 관리하는 방법론) 및 애플리케이션 개발 프레임워크에 관심이 있었다고 합니다. ✔️ 일부는 LLM 결과물, 비용 또는 성능과 A/B 테스트 프롬프트를 모니터링할 수 있는 도구를 찾고 있었는데(10%미만) 앞으로 이에 대한 수요는 증가할 것으로 전망했습니다. ✔️ 몇몇 기업들은 제너레이티브 텍스트와 음성을 결합하는 등 상호 보완적인 제너레이티브 기술을 연구하고 있다고 합니다. 역시 앞으로 확장될 시장으로 보고 있고요. ✔️ 15%는 언어 모델을 직접 만들었다고. 그 외에도 많은 내용이 들어 있는 리포트입니다.