2주전에 시스템다운을 경험한 ChatGPT가 어제도 2시간30분동안 서비스 중단이 이루어졌다. 이 기업이 정말 현재 지구상에서 가장 인기있는 서비스를 제공하고 있는 기업일까 싶다. 물론 전문가들 사이에선 이미 OpenAI가 이렇게 스케일있는 서비스에 대한 경험도 준비도 모자라다는 사실은 꽤 입소문이 나 있는 상태지만, 실력과는 상관없이 이젠 돈을 받고 제공하는 서비스 아닌가?

점차 메이저와 오픈소스 LLM의 숫자도 늘고 기술격차가 줄어들고 있는 상황에서 차별점은 서비스의 품질만큼 안정성인데, 지금으로선 글쎄 개인 사용자를 제외하곤 기업 고객이 직접 퍼블릭 버전을 사용하는 경우는 극히 신중해야 할 듯 하다.

여기에서 마이크로소프트와 애플의 OpenAI 사용법(?)차이가 꽤 재미있다.

마이크로소프트는 완벽하게 ChatGPT 서비스를 라이선스 캡슐화를 하여 코파일럿이란 이름으로 모든 제품군에 포진시켰다. 아마도 ChatGPT의 특정 버전를 안정화하여 본인들의 클라우드인 애저에 탑재하고 수많은 테스트를 했을 것이다. 그리고 ChatGPT가 업그레이드 될때마다 그만큼 변화된 델타만큼씩 가져다 리베이스를 할 것이다. 아마 이런 일은 대부분 마이크로소프트의 엔지니어들이 할것이고, 사용자는 코파일럿 뒤에 어떤 것이 있는지 알 필요도없다. 어떻게 보면 사용자는 돈 내고 쓰는 것 외에 품질 걱정을 할 이유는 없다.
이렇게 유지해가는 방법은 돈과 노력이 엄청 든다.

애플은 완전히 다른 행보를 정했다. AI라는 보통명사를 애플 인텔리전스라는 고유명사로 만들더니 시리와 같은 큰 우산 밑에 ChatGPT라는 상품을 쇼윈도에 진열했다. 그리고선 사용자에게 이렇게 이야기 한다. 시리는 ChatGPT를 백엔드로 지원하지만, 쓰려면 네가 동의(Opt-in)하고 연결하면 된다. ChatGPT 사용료도 네가 그쪽에 알아서 내면 된다. 향후엔 쇼윈도에 다른 LLM도 걸릴테니까 그쪽으로 가고 싶으면 그것도 네가 알아서 연결해서 사용하면 된다고 한다.

소프트웨어 아키텍쳐에선 이런 경우를 tightly coupled vs loosely coupled라고 이야기 한다. 각자의 장단점은 분명한데, 이런 ChatGPT와 같은 백엔드 서비스가 불안한 상태라면 당연히 상황에 따라 끊고 다른 선택지를 가져올 수 있는 loosely coupled가 유리하긴 하다.

물론 마이크로소프트의 Copilot과 애플의 Siri를 일대일 비교하는 것도 사실은 어불성설이긴 하다. 두 회사 모두 최선의 선택을 한 것이다.

하지만 ChatGPT가 좀 더 안정된 플랫폼이었다면, 애플과의 딜에서 저렇게 one of them의 대접은 피해갈 수 있지 않았을까 라는 생각을 해 본다. (서비스가 쫌 심하게 불안정하다)