개발자의 장애 공유 문화
K리그 프로그래머
성능이 인상적입니다. 상용 임베딩 모델로는 거의 유일하게 사용할 수 있는, 특히 다국어로는 선택지가 거의 없던 OpenAI의 Ada 모델보다 성능이 좋다고 합니다. 특히 RAG에 사용하는 Retrieval과 Rerank 성능이 좋습니다.
발표한 수치로만 봤을 땐 한국어 성능이 꽤 좋은데요. 실제로 테스트 한 바로는 Ada보다 살짝 좋은 정도로 보입니다.
그리고 Cohere 모델만의 특징으로, 모델 사용 타입을 검색 문서와 쿼리로 구분 할 수 있어서 성능 최적화에 도움이 될 것 같습니다.
LLM 애플리케이션을 만드는데는 Vector Search를 통한 RAG가 필수이고 매우 중요한데요. Ada 임베딩 모델의 업데이트가 없어서 아쉬웠던차에 좋은 대안이 나왔네요.
다만, GPTs/Assistant API의 RAG 성능이 좀 많이 부족하다는 피드백이 많아 이를 계기로 OpenAI서도 Ada 업데이트를 준비하지 않을까 싶네요. 어떻게 보면 생성 보다도 더 중요한 부분이라 임베딩 성능도 빨리 올려주면 좋겠습니다.
다음 내용이 궁금하다면?
이미 회원이신가요?
2023년 11월 10일 오후 2:19
AI 기술이 우리 일상과 산업 전반에 스며들면서 소프트웨어 개발 환경 역시 큰 변화의 물결을 맞이하고 있다. 특히 코딩을 돕는 AI 에이전트의 등장은 개발 생산성에 대한 큰 변화를 만들고 있다. 나 역시 이러한 변화를 체감하며, 나에게 익숙한 소프트웨어 개발의 대표적인 두 축인 프론트엔드와 백엔드 영역에서 AI 기술이 미치는 영향과 그로 인해 변화하는 소프트웨어 엔지니어의 역할에 대해 개인적인 생각을 정리해 본다.
... 더 보기