머신러닝 관련 질문이 있습니다

Question

머신러닝 공부할 때 gpu 성능에 의해
모델 훈련 시간이 크게 좌우된다고 들었습니다.

공부한지 얼마 안되어서 체감을 못하고 있었는데 최근에 GAN인 액션이라는 책을 보면서 실습하고 있는데 훈련 시간이 1시간, 2시간이 되길래 그래픽카드를 구매해야하나 싶습니다 ..

안그래도 중고로 받아서 쓰던 RX570이 오락가락하고 구글링해서 GPU 훈련을 활성화하려고해도 텐서플로에서 GPU인식도 못하더군요 ..

GPU를 바꿔주면 훈련 시간이 크게 개선될까요?
그리고 GPU는 무조건 좋은게 더 나은가요?

추가로 GPU외에 CPU나 램도 영향이 있는지 궁금합니다

구글에 검색해보면 대부분 CPU와 GPU 비교만하고
CPU와 RAM이 구체적으로 어떤 영향을 미치는지, 정량적으론 얼마나 차이나는지는 감이 안잡히더군요 ..

손정현 · Answer

안녕하세요.

GPU를 사용하면 CPU보다 학습 시간이 더 단축되기는 합니다.
하지만 비약적으로 많이 된다? 느낌은 아닌 것 같아요. (개인적인 생각입니다)

텐서플로우에서 RX570으로 GPU 기반 학습을 돌리려면 작업이 좀 번거로운걸로 알고 있습니다. 심지어 윈도우를 쓰고 계신다면 더 힘들수도 있을 것 같아요.

학습하시는 모델과 방법에 따라서 기기의 스펙을 조금씩 다를것 같지만, GPU로 학습을 하신다면 RAM과 CPU는 일반적인 스펙 (GPU와 호환되는 CPU + 8~16GB RAM)으로도 충분할 것 같아요.

일반적으로 프로그램 돌리고 모델 학습을 하게되면 CPU, RAM, GPU를 다 쓰게됩니다. GPU가 없다면 CPU와 RAM이 모든 작업을 하게되고, GPU를 사용하게 되면 CPU와 RAM은 프로그램을 돌리는 용도로 주로 사용되고 모델 학습 부분을 GPU가 주로 처리하게 됩니다. GPU 안에도 VRAM이라는 메모리가 있기 때문에 RAM의 부담이 줄어들어요.

일반적으로 입문할때 모델 사이즈를 작게하고 학습 사이클도 좀 줄여서 모델 성능 저하를 어느정도 감수하고 학습 시간을 단축 시킬 수는 있습니다.

GPU를 새로사는게 부담되시면 Kaggle에 가입하셔서 휴대폰 인증하시면 Kaggle 노트북으로 GPU 연결해서 쓰실 수 있습니다. (예전 Google Collab 느낌이에요)

참고하실만한 아티클 첨부합니다:
- https://www.tensorflow.org/install/gpu_plugins
- https://pypi.org/project/tensorflow-directml-plugin/
- https://github.com/microsoft/tensorflow-directml-plugin
- https://yhu0409.tistory.com/14
- https://www.kaggle.com/code