강병진 - 1:1 멘토링 가이드
OpenAI Streaming에서 사용 토큰 개수 보기
안녕하세요!
최근 OpenAI 업데이트로 스트리밍도 사용 토큰 수를 볼 수 있게 되었는데요.
해당 내용이 랭체인에도 업데이트가 되었는데, 아직 저의 피드에는 공유되지 않은 것 같아
정말 간단한 노트북 파일을 만들어 보았습니다.
기존의 콜백을 포함하여, 스트리밍에서 사용할 수 있는 코드입니다 :)
Colab Notebook:
https://lnkd.in/gFJnzMa7
Github:
https://github.com/NotoriousH2/LangChain_misc/blob/main/TokenUsageinStreaming.ipynb
감사합니다 :)
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2024년 6월 12일 오전 12:14
댓글 0
함께 읽은 게시물
포폴 코칭 중 기억남는 대화 [1]
Q) 🙋♀️ 데이터를 활용해 UX를 개선했다는 걸 잘 보여주고 싶어요. 포폴에서 어떤 식으로 서술하면 좋을까요? (예비 디자이너 분)
... 더 보기
![[이벤트] 🛠️ 커리어리 2.0, 여러분의 의견이 필요합니다!](/_next/image?url=%2F_next%2Fstatic%2Fimages%2Fimg_thumbnail-dummy-92d899b3f046a7845ef0e057ec1479c8.png&w=3840&q=100)
GPT-4.5 출시 후 GPT-4o의 성능이 빠르게 좋아지고 있음. GPT-4.5로 GPT-4o를 튜닝하면서 성능을 끌어올리고 있는 것이 아닌가 싶음. GPT-4o 수준의 파인튜닝 속도가 진짜 빠르다는 것이 놀라움. 이것이 OpenAI의 최대 강점일 수도.
(번역) Create React App 지원 종료
C
... 더 보기
