세상이 또 한 번 바뀝니다... OpenAI 실시간 음성 모드부터… | Snippod
Snippod
2024.10.01 OpenAI DevDay 2024 가 있었죠. 이번에는 개발자 컨퍼런스 답게 딱 개발자들이 관심을 가질 내용들이네요. 주로 API 업데이트였어요.
결론: 이번 DevDay 는 확실히 개발자용 데브데이였어요. 그래서 오히려 좋다? 😛
1. Realtime API: Voice Mode 최근 ChatGPT 에 적용된 것. 생각보다 빨리 API 로 풀어줬어요 good! (실시간이므로 당연히도 WebSocket 방식. 가격 좀 비쌈.
2. Function calling: 내가 정의한 function (외부 API) call 가능해짐.
3. Vision fine-tuning: 이미지로도 파인튜닝 가능.
4. Prompt Caching: 프롬프트 중 자주 쓰는 부분 캐싱지원. 심지어 이건 Claude 처럼 정의하는게 아닌 자동으로 이미 적용됨. 50% 할인효과.
5. Model Distillation: 모델 경량화하는 전 과정 OpenAI 플레이그라운드에서 Stored Completion 등 너무 편하게 가능해짐. 이런건 실용적인 측면, 비용 최적화 측면에서 이번 발표의 성격을 아주 잘 보여주는 기능이지 않나 싶습니다.
https://www.snippod.com/snip/flaqg6502z9e
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 10월 3일 오전 10:04