OpenAI와 Anthropic에 비해 이슈가 덜 되어 있는 회사지만 조용하고 강한 LLM 회사인 Cohere 에서 새로운 임베딩 모델을 발표했는데요.


성능이 인상적입니다. 상용 임베딩 모델로는 거의 유일하게 사용할 수 있는, 특히 다국어로는 선택지가 거의 없던 OpenAI의 Ada 모델보다 성능이 좋다고 합니다. 특히 RAG에 사용하는 Retrieval과 Rerank 성능이 좋습니다.


발표한 수치로만 봤을 땐 한국어 성능이 꽤 좋은데요. 실제로 테스트 한 바로는 Ada보다 살짝 좋은 정도로 보입니다.


그리고 Cohere 모델만의 특징으로, 모델 사용 타입을 검색 문서와 쿼리로 구분 할 수 있어서 성능 최적화에 도움이 될 것 같습니다.


LLM 애플리케이션을 만드는데는 Vector Search를 통한 RAG가 필수이고 매우 중요한데요. Ada 임베딩 모델의 업데이트가 없어서 아쉬웠던차에 좋은 대안이 나왔네요.


다만, GPTs/Assistant API의 RAG 성능이 좀 많이 부족하다는 피드백이 많아 이를 계기로 OpenAI서도 Ada 업데이트를 준비하지 않을까 싶네요. 어떻게 보면 생성 보다도 더 중요한 부분이라 임베딩 성능도 빨리 올려주면 좋겠습니다.

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2023년 11월 10일 오후 2:19

댓글 0

    함께 읽은 게시물


    기계 학습 엔지니어로 프리랜서 시장에서 성공하기

    프리랜서 시장은 빠르게 성장하고 있으며 머신러닝 기술에 대한 수요가 매우 높다고 하는데요, 프리랜서 시장에서 성공할 수 있는 몇 가지 기계 학습 도구와 기술에 대해 설명하는 기사 공유합니다.😃 <프리랜서 기계 학습 엔지니어로서 성공하기: 단계별 가이드> 💌 Freelancer.com의 조사에 따르면, 머신러닝은 가장 높은 연봉을 받는 프리랜서 기술 상위 5개 중 하나라고 합니다. 스탠포드 대학의 연구에 따르면 머신러닝과 같은 전문 기술을 갖춘 프리랜서는 이러한 기술이 없는 프리랜서보다 최대 80% 더 ... 더 보기

    Develop Your Career as a Freelance Machine Learning Engineer: A Step-by-Step Guide to Make Over...

    Medium

    Develop Your Career as a Freelance Machine Learning Engineer: A Step-by-Step Guide to Make Over...

    면접 탈락 이유 복기

    

    ... 더 보기

    커서 AI를 슬랙과 연결하면 생기는 일

    ... 더 보기