📝 샘플링 투표(Sampling-and-Voting) 프롬프팅

샘플링 투표 방식은 여러 개의 LLM 에이전트를 활용하는 것 입니다. 동일한 입력으로 LLM을 반복적으로 실행하여 여러 개의 출력 샘플을 생성하고, 그 다음 다수결 투표를 통해 이 샘플들 중 가장 일관성 있는 출력을 최종 답변으로 선택하는 방식입니다. Self-Consistency(자기 일관성)과 비슷하지만, 복잡한 CoT 프롬프팅을 사용하지 않고 기본적인 지시를 사용하고 출력을 가공없이 사용합니다. 즉, 샘플링 투표 방식은 더 일반화되고 단순화된 개념이라고 볼 수 있습니다. 방법은 간단한데요. 샘플링 단계에서는 작업에 대한 질의 혹은 지시를 LLM에게 N번 반복하여 출력 샘플을 다양하게 생성합니다. 이 때, LLM의 다양한 출력을 얻기 위해 별도의 페르소나(전문가 역할 등) 설정을 할 수도 있지만, 여기서는 별도의 페르소나 설정 없이 단순히 동일한 입력에 대해 LLM을 반복 실행하는 방식을 사용합니다. 투표 단계에서는 각 샘플에 대해 다른 모든 샘플과의 유사도를 계산하여, 각각의 샘플에 대한 누적된 유사도 점수를 구합니다. 유사도는 임베딩 벡터로 계산하거나 BLEU 점수 등을 사용합니다. 객관식 문제에서는 답안의 출현 빈도수로 유사도 누적 점수를 계산합니다. 마지막으로 가장 높은 누적 유사도를 얻은 샘플을 최종 답변으로 선택합니다. 방법이 너무 간단한데, 이렇게 간단한 방식만으로도 앙상블 규모(샘플의 갯수)를 늘리면 LLM 성능이 전반적으로 향상되었다고 합니다. 이 방식의 가장 큰 장점은 기존의 복잡한 프롬프트 설계나 에이전트 협업 체계 없이도 비견될만한 성능을 낼 수 있다는 점 인데요. 놀라운 점은 앙상블 규모를 충분히 늘리면 작은 LLM이 더 큰 모델의 단일 출력 성능을 능가할 수 있다는 것입니다. 다만, 이 방식으로 고성능 모델 수준의 성능을 내는 것이 비용적인 측면에서 큰 이득이 있지는 않습니다. 빠른 속도가 필요한 경우 병렬처리 방식으로 유용하게 사용 할 수는 있을 것 입니다.