HuggingFace와 AWS의 협업
최근 Large-scale model이나 Generative AI 에 대한 관심이 엄청나게 높아지고 있습니다. 다만 아직까지 이러한 모델들은 많은 비용이 들어가는 경우가 많은데요, HuggingFace가 AWS와 협업하여 이를 비용 효율적으로 할 수 있도록 한다는 내용입니다. 이미 SageMaker 등을 활용한다면 HuggingFace 모델을 쉽게 가져가 쓸 수 있긴 한데요, 앞으로는 trainium, inferentia 같은 AWS전용 칩에 대한 지원도 강화한다고 하네요. AWS 뿐 아니라 Azure, GCP 등도 앞으로 이러한 지원이 더 많아질 것 같고 그러면 지금은 높은 training/inference 비용 때문에 쓰기 힘든 ML기술들이 좀 더 민주화되는 계기가 되지 않을까요?ㅎㅎ