생성형 AI를 인프라로 쓰는 시대의 서비스

언어모델을 포함한 생성형 AI모델의 인프라화는 과거 클라우드 비즈니스의 인프라화와는 맥락을 달리 한다. AWS, GCP, Azure 모두 각각의 특색이 존재하기는 했으나, 대부분 훌륭한 품질과 보안을 자랑했으며, 그 시절 가장 크게 고려해야 할 점은 서버를 바꾸게 될 때에서 오는 전환비용의 부담이었다. 이 때문에 구글과 스냅챗에 갈등이 있었다는 사실은 꽤 유명했던 일화다. 

생성형 모델들은 클라우드 시대와 달리 선두주자들을 중심으로 각기 다른 역량셋을 갖추고 있다. 각 모델의 역량이나 활용하는 데이터에 따라 각기 다른 방식으로 진화하며, 서비스와 매우 긴밀한 관계를 맺는다. 가령, 인프라로 사용하는 LLM 모델을 다른 모델로 갈아 끼운다면, 전환비용은 둘째 치더라도 고객에게 제공하는 End service의 품질을 기존과 동일한 수준으로 보장할 수 없게 된다. 실상 그런 의미에서 인프라라고는 하나, 서비스에 더 가깝기도 하다. 과거 클라우드 시대가 환경 좋은 독서실을 고르는 영역이었다면, 생성형 AI 인프라를 고르는 것은 좋은 학원/선생님을 고르는 영역에 가까워보인다.

이러한 생성형 모델들이 클라우드와 손을 잡기 시작했다. 대표적으로는 올해 7월 메타의 LLaMA와 MS가 맺은 전략적 제휴가 있고, 구글과 앤트로픽, MS와 OpenAI의 파트너십이 있다. 이에 따라 어떤 클라우드를 사용하느냐에 따라 특정 생성형 AI의 종속성이 생길 수 있다. 물론 이러한 기제가 앞서 말한 것처럼 과거 클라우드 시절에도 아에 없었던 것은 아니다. 각 클라우드마다 exclusive한 서비스들은 존재했으나, 서비스의 본질을 건드리는 생성형 모델의 요구사항은 기존 시대보다 훨씬 더 강한 종속성을 요구할 것이라 생각한다.

이런 의미에서 소위 서비스의 핵심이 될 만한 영역에 대해서만큼은 자체적인 생성형 모델을 갖추고 있는 편이 안전하다. 혹은 여러 모델들을 지속 테스트하며, 언제든 대체 가능한 수준으로 퀄리티를 맞춰갈 필요가 있다. 그마저도 아니라면 내가 타겟으로 하는 서비스의 생성 인프라 영역이 회사 막론, 과거 클라우드가 그랬듯, 큰 차이가 없는 동질적 서비스로 진화하길 기대해야 한다. 이 블랙박스가 언제까지 블랙박스일지도 사실 알 수 없기 때문에 그저 그 기대가 막연하다고만도 할 수는 없다.

https://www-aitimes-com.cdn.ampproject.org/c/s/www.aitimes.com/news/articleViewAmp.html?idxno=154732

#생성형AI #LLM #AWS #GCP #Azure #Infra #Cloud #서비스기획