<가격인하와 더 편리해진 오픈AI API 업데이트>
커리어리 친구들, 오늘 오픈AI에서 API 관련 내용을 업데이트 했는데 앞으로 개발자들이 더욱 더 저렴한 비용과 코딩하기 쉽게 API 호출을 할 수 있을 것 같습니다. 아무래도 오픈소스 LLM 진영의 변종과 발빠른 프레임워크과 구글 PaLM2 API 대응으로 보아집니다. 그렇다면 무엇이 달라졌나 살펴 보자면 다음과 같습니다. 🕹️ 함수 호출 GPT API 호출만으로 프로그램 내의 필요한 함수를 선택하고 함수에 전달할 파라미터를 생성/추출해주는 기능으로 쓰임새가 많을 것 같습니다. 🕹️ 새로운 gpt-3.5-turbo-16k 모델 추가 기존 4k 모델의 4배에 달하는 컨텍스트 처리가 가능하게 되어 GPT-4 기본 모델의 두 배 수준의 컨텍스트 길이를 처리할 수 있습니다. 간혹 챗GPT를 사용하다면 연속 질답할 때 끊어질때가 있는데 이를 방지해서 보여 줄 수 있을 것 같습니다. 물론 가격은 입력(프롬프트) $0.003/1K 과 출력 $0.004/1K 으로 4K 대비 약 2배 가량 비싸지만, 늘어난 컨텍스트 길이 기반으로 PDF 나 책 챕터 등을 임베딩하거나 출력할 수 있습니지. 🕹️ 구 gpt-3.5-turbo 기본 모델 가격 정책 변경 마치 AWS 전성기 시대에 달마다 S3 가격을 내리는 것처럼 오픈AI에서도 입출력 상관 없이 $0.002/1K 이던 가격 정책을 입력 $0.0015/1K, 출력 $0.002/1K 으로 변경하여 약 25% 정도 저렴하게 쓸 수 있도록 내놓았습니다. 🕹️ text-embedding-ada-002 임베딩 모델 가격 인하 text-embedding-ada-002 모델의 가격을 $0.0001/1K 로 약 75% 인하를 단행했습니다. 그러므로 개발자들이 좀더 많은 데이타를 입력해서 벡터화 시킬 수 있습니다. 그외 관련 소식은 아래의 오픈AI 블로그를 읽어 보세요!!