OpenAI Whisper 모델 CDK로 AWS위에서 배포하기

OpenAI Whisper 모델은 MIT 라이선스를 가진 자동 음성 인식(Automatic Speech Recognition, ASR) 및 음성 번역을 위한 사전 훈련 모델입니다. OpenAI Whisper 모델은 CNN과 Transformer 아키텍처를 결합한 모델로, 68만 시간의 라벨링된 데이터로 훈련되었으며, 작은 크기에도 불구하고 높은 정확도를 보입니다. 특히 파인튜닝(fine-tuning) 없이도 다양한 데이터셋과 도메인에 잘 일반화되는 것이 큰 장점입니다. 또한 전사(transcribe), 번역, 언어 식별, 발화자 구분 등 다양한 작업에 활용될 수 있습니다.


OpenAI Whisper 모델을 사용하기 위해서 다양한 방식으로 배포 가능합니다. AWS위에서는 ML 모델 추론 서비스 구축을 위한 완전 관리형 서비스인 Amazon SageMaker EnpointAWS Cloud Development Kit (CDK)를 사용하여 OpenAI Whisper 모델을 배포하는 방법이 유용할 수 있습니다. AWS CDK는 인프라를 코드화하여 관리할 수 있는 Infrastructure as Code (IaC) 도구로, 클라우드 리소스를 프로그래밍 방식으로 정의하고 프로비저닝할 수 있습니다. Amazon SageMaker Endpoint는 기계 학습 모델을 손쉽게 배포하고 추론 서비스를 제공하는 AWS 서비스입니다. AWS CDK와 Amazon SageMaker Endpoint를 결합하면 ML 모델 배포를 자동화하고 운영 효율성을 높일 수 있습니다.


https://aws.amazon.com/ko/blogs/tech/how-to-deploy-whisper-on-sagemaker-endpoint-using-aws-cdk/

AWS CDK를 활용한 OpenAI Whisper 모델 Amazon SageMaker Endpoint 배포 자동화 | Amazon Web Services

Amazon Web Services

AWS CDK를 활용한 OpenAI Whisper 모델 Amazon SageMaker Endpoint 배포 자동화 | Amazon Web Services

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 8월 7일 오전 6:35

댓글 0