OpenAI Sora의 동작 원리

Diffusion Transformers(DiT), Latent Diffusion을 기반으로 하며, 모델과 훈련 데이터셋을 대규모로 확장되었는데요. 훈련에는 1개월 동안 4,200~10,500개의 Nvidia H100 GPU로 추정되는 엄청난 양의 컴퓨팅 파워가 필요하다고 하네요.. 괴물같은 성능을 가진 만큼, 엄청난 리소스를 필요로 하는데요. 요즘 인공지능 화두는 성능도 성능이지만, 계산 최적화와 경량화에 초점이 맞춰져가는 것 같아요..! https://factorialfunds.com/blog/under-the-hood-how-openai-s-sora-model-works