세일즈포스로 부터 매우 의미있는 발표가 나왔습니다.

애플 인텔리전스가 쏘아올린 '내 프로덕트를 완성하기 위해 LLM은 내 선호에 따라 언제라도 여러개의 선택 중 갈아끼울 수 있는 확장 모듈 팩처럼 사용" 하는 결정에 세일즈포스도 비슷한 움직임을 보입니다.

2주전 <세일즈포스의 20%주가 폭락이 시사하는 바>에서 예측한데로, 지금은 무게중심과 시장 주도권이 LLM벤더에게 있어 보이지만, 멀지 않아 LLM이 공공재처럼 (예전의 검색엔진이 하이프였던 것과 비슷) 취급되면, 기업의 데이터와 업무 프로세스, 규정준수가 훨씬 더 크게 보이고 다시 무게중심이 예전으로 돌아올 것이라고 말씀드린바 있습니다.

이 예측을 세일즈포스가 가장 먼저 공격적으로 치고 나갑니다. (사실 비슷한 B2B 빅테크인 SAP와 오라클도 비슷한 행보와 발표를 예정하고 있습니다.)

*발표의 핵심을 짧게 줄여 이야기 하면 이겁니다.

"기업이 비즈니스 애플리케이션에 사용할 LLM을 선택할 때 무엇이 좋은지 고객 정보에 입각한 의사 결정을 내릴 수 있도록 지원하는 벤치마크를 우리가 해 줄게" 입니다. 그리고 그 벤치마크 프레임워크를 내놓는 다는 발표입니다.

이게 왜 의미가 있냐하면요. 기업 고객을 아는 분이면 아주 쉽게 이해가 되는데요.

----고객은 단순히 LLM 성능이 좋은 최고의 모델만을 원하는 것이 아니라, 규정을 준수하고 보안 표준에 적합하며 비용이 많이 들지 않는 최고의 모델이 무엇인지를 본인들의 데이터와 업무 프로세스에서 확인하고자 합니다.--

즉 기업에서 비즈니스 애플리케이션을 위한 LLM을 선택하는 것은 비용, 정확성, 신뢰 및 안전성, 속도 사이에서 균형을 잡아야 하는 최적화 문제이기 때문입니다.

여러분들도 잘 이해가 되시죠?

LLM으로 ChatGPT가 최고라고 해도 하는게 어디서 무엇과 함께 사용해야 좋은지도 모르고 그냥 도입했다간 비용만 비싸고 큰 낭패를 볼 수도 있기 때문입니다. 작은 기업이라면, 굳이 범용 LLM을 사용하지 않고 작은 오픈소스 모델을 사용해도 충분한 효과를 볼 수 있겠지요.

하지만 그것을 누가 검증해 줄까요?

자동차에 들어가는 카 오디오를 예를 들어 설명해 볼까요.

명품 카 스테레오 벤더는 여럿 있지요. 파이오니어, JBL, Blaupunkt, Kenwood 등등요. 여러 관점에 따라 무엇이 최고인지는 평가가 모두 다를 수 있습니다. 중요한 것은 내 자동차, 내 음악 선호도, 도로 컨디션 등등과 궁합이 잘 맞는 것을 고르는게 최고겠지요.

세일즈포스가 그것을 고르는 벤치마크 프레임워크를 발표했다는 것입니다.

LLM 기술 성능 벤치마크가 아닌, 기업 애플리케이션에서 기술 스택의 일부로서 다양한 LLM의 장단점을 이해하고 비즈니스 목표와 우선순위에 맞는 정보에 입각한 의사 결정을 내리는 데 도움을 주기 위해 실제 CRM 영업 및 서비스 시나리오와 데이터를 포함한 광범위한 사용 사례를 통해 AI의 실질적인 비즈니스 유용성을 종합적으로 평가하겠다 입니다.

이렇게 하면 사용자들은 훨씬 마음이 놓이게 됩니다. 우리 데이터와 잘 궁합이 맞는 LLM을 고를 수 있으니까요.

현대 제네니스 G80을 사러갔더니 "고객님 음악 청취 성향과 출퇴근 도로사정, 예산 한도를 생각 해 봤을때 이런 오디오시스템이 가장 적합하다고 나왔습니다, 어떻게 하실까요?" 이런 말 들으면 그렇게 결정하지 않으시겠어요?

이렇게 되면 LLM 벤더들은 애플리케이션 벤더의 벤치마크 프레임워크에서 좀 더 좋은 평가를 받기위해 "꼬리를 흔드는" 위치로 내려올겁니다. 그래야 고객들이 사용할테니까요.

ㅎㅎㅎ 무게중심이 제가 예측한 시기보다도 훨씬 빠르게 돌아오고 있는 듯 합니다. 이제 몇 개의 더 큰 빅테크 기업이 비슷한 발표를 하게되면, 헤게모니는 다시 바뀌게 될 듯 합니다.