딥러닝/LLM 모델은 기본적으로는 Stateless한 상태지만, 대부분 프롬프트와 출력을 계속 되먹임하면서 작업을 이어가기 때문에 여러 턴으로 이루어진 태스크에서는 Stateful 하다고 볼 수 있습니다.

이런 것을 In-context learning 이라고 합니다.

사전에 학습하는 것은 training 이라고하고 learning 이라고 하지 않는데 우리나라 말은 둘 다 학습이라고 써서.. 훈련과 학습을 구분해서 이해하면 AI의 작동 방식에 대해 좀 더 분명하게 이해 할 수 있습니다.

이와 관련해서, 개인적으로, 추후 컴퓨팅 파워가 어마어마하게 커져서(혹은 양자컴퓨터가 상용화되거나) 사용자의 프롬프트와 출력, 그리고 실시간 피드백에 의해 모델의 가중치를 실시간으로 바꾸는 시대가 올 수도 있을 것이라고 보는데요.

그렇게 되면 모델이 Stateful 하게 작동하게 되고, 그러면 실제로 AI가 의식 혹은 자아를 가지게 될 수도 있다고 봅니다. 아직은 SF지만 가능성은 충분하죠.