OpenAI와 Anthropic에 비해 이슈가 덜 되어 있는 회사지만 조용하고 강한 LLM 회사인 Cohere 에서 새로운 임베딩 모델을 발표했는데요.


성능이 인상적입니다. 상용 임베딩 모델로는 거의 유일하게 사용할 수 있는, 특히 다국어로는 선택지가 거의 없던 OpenAI의 Ada 모델보다 성능이 좋다고 합니다. 특히 RAG에 사용하는 Retrieval과 Rerank 성능이 좋습니다.


발표한 수치로만 봤을 땐 한국어 성능이 꽤 좋은데요. 실제로 테스트 한 바로는 Ada보다 살짝 좋은 정도로 보입니다.


그리고 Cohere 모델만의 특징으로, 모델 사용 타입을 검색 문서와 쿼리로 구분 할 수 있어서 성능 최적화에 도움이 될 것 같습니다.


LLM 애플리케이션을 만드는데는 Vector Search를 통한 RAG가 필수이고 매우 중요한데요. Ada 임베딩 모델의 업데이트가 없어서 아쉬웠던차에 좋은 대안이 나왔네요.


다만, GPTs/Assistant API의 RAG 성능이 좀 많이 부족하다는 피드백이 많아 이를 계기로 OpenAI서도 Ada 업데이트를 준비하지 않을까 싶네요. 어떻게 보면 생성 보다도 더 중요한 부분이라 임베딩 성능도 빨리 올려주면 좋겠습니다.

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2023년 11월 10일 오후 2:19

댓글 0

    함께 읽은 게시물

    무너지고 있는 프론트엔드, 백엔드 직군의 경계에 대한 고찰

    AI 기술이 우리 일상과 산업 전반에 스며들면서 소프트웨어 개발 환경 역시 큰 변화의 물결을 맞이하고 있다. 특히 코딩을 돕는 AI 에이전트의 등장은 개발 생산성에 대한 큰 변화를 만들고 있다. 나 역시 이러한 변화를 체감하며, 나에게 익숙한 소프트웨어 개발의 대표적인 두 축인 프론트엔드와 백엔드 영역에서 AI 기술이 미치는 영향과 그로 인해 변화하는 소프트웨어 엔지니어의 역할에 대해 개인적인 생각을 정리해 본다.

    ... 더 보기

     • 

    저장 32 • 조회 4,000


    개발자의 장애 공유 문화

    ... 더 보기

    개발자의 장애 공유 문화

    K리그 프로그래머

    개발자의 장애 공유 문화

     • 

    저장 14 • 조회 3,488


    Dependabot을 통한 안전한 의존성 관리

    ... 더 보기

    데이터 분석가 커리어 만들기[#2 tools 편] BI

    R과 파이썬은 비교하는 이야기는 비교 관점 보다는 어떻게 공부하고 사용하면 좋을지 이야기 하고싶다. 비교는 하지 않으려고 한다. (이유는 #1 편 참고 ) 상용 BI tool은 트렌드를 반영하며 지속적으로 기능이 업그레이드 되고 있다. 프리세일즈도 했었기에 가장 근거를 많이 삼는 사이트를 소개하면 비교 해보고자 한다. BI tool를 다 나열하면 너무 많기 때문에 경험상 비교 되었던 몇 가지 툴을 비교하려고 한다. 아래 tool은 self BI tool로 국내 사이트에서 가장 많이 비교 검토 대상이 되었다. 각 tool의 장단점이 있고 QlikView 를 제외하고는 사용해보았다. (스킬 수준은 다르지만) Spotfire VS Tableau VS Power BI 1. Tool 비교 사이트 대부분 가트너를 가장 신뢰하는 사이트인지 각 업체마다 가트너를 레퍼런스로 내세우며 비교 한다. 가트너: https://www.gartner.com/reviews/market/analytics-business-intelligence-platforms 참고 URL: https://www.finereport.com/en/bi-tools/top-5-bi-tools-of-201... 더 보기

     • 

    저장 20 • 조회 6,840