2024.10.01 OpenAI DevDay 2024 가 있었죠. 이번에는 개발자 컨퍼런스 답게 딱 개발자들이 관심을 가질 내용들이네요. 주로 API 업데이트였어요.

결론: 이번 DevDay 는 확실히 개발자용 데브데이였어요. 그래서 오히려 좋다? 😛

1. Realtime API: Voice Mode 최근 ChatGPT 에 적용된 것. 생각보다 빨리 API 로 풀어줬어요 good! (실시간이므로 당연히도 WebSocket 방식. 가격 좀 비쌈.

2. Function calling: 내가 정의한 function (외부 API) call 가능해짐.

3. Vision fine-tuning: 이미지로도 파인튜닝 가능.

4. Prompt Caching: 프롬프트 중 자주 쓰는 부분 캐싱지원. 심지어 이건 Claude 처럼 정의하는게 아닌 자동으로 이미 적용됨. 50% 할인효과.

5. Model Distillation: 모델 경량화하는 전 과정 OpenAI 플레이그라운드에서 Stored Completion 등 너무 편하게 가능해짐. 이런건 실용적인 측면, 비용 최적화 측면에서 이번 발표의 성격을 아주 잘 보여주는 기능이지 않나 싶습니다.

https://www.snippod.com/snip/flaqg6502z9e