머신러닝 시대에 엔비디아의 GPU가 독점적인 지위를 유지할 수 있을지 관심이 많은데, 이에 대한 힌트가 되었던 아티클. ML칩은 이제 막 자리를 잡아가는 과정에 있고, 수많은 스타트업들중 그래프코어와 세레브라스가 살아남을 가능성이 높다고 한다(실제로 칩을 시장에 판매중). 그런데 이 둘은 엔비디아의 GPU와는 큰 차이를 보인다. 엔비디아의 GPU는 데이터 패럴리즘을 위한 칩으로, 여러개의 모델을 동시에 돌리는 모델이라면, 그래프코어와 세레브라스는 모델 패럴리즘에 최적화된 칩으로, 하나의 모델을 칩 안에 통째로 넣어 훈련하는 모델이며, 즉 훈련 시간을 최소화하는 방식이다. 한마디로 동시에 여러 개의 훈련을 하느냐, 혹은 한번 훈련하는데 드는 시간을 줄이느냐의 차이라고 볼 수 있다. 그리고 현재는 서로의 영역을 노리고 있고 하이브리드 패럴리즘으로 향하고 있다고 한다. 상당히 생소하고 어려운 내용이지만 알아두면 미래를 예측하는데 도움이 되리라고 생각한다.