처음 Open AI Plug-in이 발표되었을 당시에는, 그 아래에 붙을 서비스가 제한적일 수도 있다 생각했다. 가령, 커머스 같은 경우, Call이 들어온만큼 매출이 올라갈 수 있기 때문에 Plug-in에 붙어 매출 다각화를 노릴 수 있지만, 단순 정보를 제공하는 서비스(e.g., 사주 정보 등)들의 경우, 내 앱에 직접 진입을 시켜 view를 늘려야 광고 수익화가 가능하기 때문에, 이와 같은 서비스들은 Plug-in 아래에 붙는 것에 큰 의사결정이 필요하다고 보았기 때문이다. 하지만, Auto-GPT를 사용해본 이후 생각이 조금 바뀌었다. 오늘은 주말 동안 테스트해본 Auto-GPT의 소회에 대해 이야기해보고자 한다  Auto-GPT는 Open AI와 Google Search API, PineCone API 등을 협동적으로 활용하여 GPT에 목표를 주고 달성하도록 하는 방식으로 협력하여 결과값을 제공한다. 목표값을 제공하면 알아서 문제를 해결하기 위해 리서치를 하고, 추론을 한 이후 추가적인 방식으로 보완해 보겠다고 AI가 제안을 하며 결과값을 강화해 나가는 방식이다.  Access에 제약이 없는 영역에서는 GPT 4.0과 구글링이 시너지를 내면서 비교적 좋은 결과를 제공해준다. 특정 주제에 대한 연구 동향 리서치 과제를 시켜보았는데, 1차적으로 가져온 결과값을 스스로 판단해보고, 추가적으로 필요한 작업을 Plan으로 능동적으로 제시하며 작업을 더 진행할지를 주도적으로 물어본다. 여기에 yes로 응답하면 추가적으로 작업을 하면서 더 나은 결과값이 나오도록 계속해서 진행하며 고도화해나간다. 'Continuous' 모드는 스스로 판단하고 계속해서 작업을 해내가는 방식이지만, 아직은 완성도가 높지 않고 불필요하게 token을 소모할 수 있어 추천하지는 않는다.  한편, 로그인이 필요하거나 사이트 접속 후 추가적인 input이 필요한 경우, 작업이 수월하지 않은 경우도 많다. 여행 스케쥴링에 대한 과제를 제안했는데, Chromedriver로 여행 사이트에 접속한 이후, 로그인을 요구하는 경우 혹은 날짜, 여행지 입력이 원활하지 않아 결과값을 확인하지 못하는 경우 여러 방식으로 우회하며 결과값을 쌓아가는 데에 어려움을 겪는다. 이러한 부분들이 Open AI가 plug-in에서 api 연계로 해소하고자 하는 부분이라 판단한다.  사용하면서 느낀 점은 API를 중심으로 여러 서비스들이 유기적으로 연계될 수 있다는 점 그리고 생각보다 Token 소모가 엄청나다는 점이다. 당초 Open AI에 붙을 서비스가 제한적일 것이라는 생각과 달리, Open-AI의 트래픽이 충분히 높아진다면 플랫폼 자체에 자연스레 광고 비즈니스가 커질 수 있고, 개별 서비스 레벨에서는 Api call 증가, Token 소진이 일어나기 때문에 token 소모량에 비례하여 3rd party들의 수익화를 지원하는 비즈니스 플랫폼 구조도 가능할 것이라 예상된다. 그만큼 3rd party의 서비스는 LLM이 해결할 수 없는 전문화 영역으로 진화할 수 밖에 없다는 예상도 가능하다. 이 구조가 충분하다고 느낄 때, MS 진영이 OS 레벨에서 과감한 의사결정을 해보지 않을까 생각해본다. #ai #agi #google #openai #chatgpt #gpt #pinecone #businessmodel #tokeneconomy