PyTorch 2.1 Contains New Performance Features for AI Developers
PyTorch
PyTorch 2.1을 통한 최적화 부분 개선
PyTorch가 새 버전을 공개했네요
새 버전에서는 주로 최적화 기능이 많이 개선 된 것 같습니다.
(요즘 Meta, facebook research에서 이것저것 많이 공개하는 느낌...)
주요 업데이트 사항
TorchInductor-CPU optimizations including Bfloat16 inference path for torch.compile
CPU dynamic shape inference path for torch.compile
C++ wrapper (prototype)
Flash-attention-based scaled dot product algorithm for CPU
PyTorch 2 export post-training auantization with an x86 back end through an inductor
https://pytorch.org/blog/new-features-for-ai/?utm_content=273573766&utm_medium=social&utm_source=linkedin&hss_channel=lcp-78618366
다음 내용이 궁금하다면?
이미 회원이신가요?
2023년 12월 4일 오전 6:36
댓글 0
함께 읽은 게시물
Longest Common Subsequence 자바스크립트 풀이
코
... 더 보기
[서평] 59가지 통계학 궁금증 완전 정복
데
... 더 보기직장인으로서 10년 정도 일하게 되면 피할 수 없는 순간이 바로 조직에서 리더의 역할을 받게 되는 인사발령이다. 팀원이었을 때는 내게 주어진 업무를 내가 가진 능력과 주변 동료들의 도움으로 해결하고, 그에 합당한 평가와 보상을 기다리며, 나쁘지 않는 리워드와 내 위치에 안도하며 또 새해를 맞이하고 하루하루를 버텨나가는 과정에 큰 어려움이 없다.
... 더 보기-
‘경영의 신’이란 칭호를 받은 마쓰시타 고노스케는 경영자가 가져야 할 가장 중요한 자질을 ‘인간에 대한 이해’라고 했다. 경영의 진짜 핵심을 찌른 이야기다. 경영이란 무엇인가? 한마디로 ‘사람을 움직여 가치를 창조하는 업(業)’이다.
... 더 보기
