<OpenAI, GPT 프롬프트 엔지니어링 가이드 발행>

OpenAI에서 프롬프트 엔지니어링 가이드를 공개했습니다.
그 가이드에서는 GPT 모델로부터 더 나은 반응을 이끌어내기 위한 6가지 전략과 전술을 GPT-4의 예시를 중심으로 매우 논리적으로 설명합니다.

이 가이드의 6가지 상위 전략 다음과 같습니다.
- 명확한 지침 작성
- 참조 텍스트 제공
- 복잡한 작업을 더 간단한 하위 작업으로 나누기
- 모델에게 '생각할 시간' 주기
- 외부 도구 사용
- 체계적인 변경 사항 테스트

이 전략은 연쇄적 사고 프롬프트(chain-of-thought prompting)나 재귀적 요약(recursive summarization)과 같은 LLM 연구 결과를 기반으로 합니다.

제가 매우 흥미롭게 본 부분은 '전술(tactics)'부분인데요. 각 전략은 예시 프롬프트와 함께 구체적이고 실행 가능한 전술로 많은 예와 함께 세분화되어 있습니다.
가이드의 몇 가지 전술중 Chat API의 시스템 메시지를 활용하는 기술이 재미있었는데요. 이 매개 변수는 "어시스턴트의 동작을 설정" 하는 데 이 매개 변수를 사용하여 모델에 응답을 형성하는 '페르소나'를 부여하는 것입니다. 또 다른 전술은 긴 대화의 요약을 모델에 전달하거나 여러 사용자 입력에 대해 반복되는 일련의 지침을 제공하는 데 이 매개변수를 사용할 것을 제안합니다.

외부 도구 사용 전략에서는 OpenAI의 쿡북에 있는 문서에 대한 포인터와 함께 GPT 모델을 다른 시스템과 인터페이스하는 방법에 대한 팁을 제공합니다. 이 전략의 예로는 모델에 수학 계산을 직접 수행하도록 요청하는 대신 계산을 수행하는 Python 코드를 생성하고, 그 코드를 모델 응답에서 추출하여 실행하는 것입니다.

사실 다른 여러 LLM 제공업체에서도 프롬프트 엔지니어링에 관한 팁을 발표했습니다.
- Microsoft Azure: GPT 모델에 대한 액세스를 서비스로 제공하기에, OpenAI와 유사하며, 해당 가이드에서는 모델 출력 생성의 무작위성을 제어하는 temperature 및 top_p와 같은 모델 매개변수 설정에 대한 팁도 제공합니다. (https://learn.microsoft.com/en-us/azure/ai-services/openai/concepts/advanced-prompt-engineering?pivots=programming-language-chat-completions)

- Google: Gemini API 문서에도 설계 전략과 매개변수에 대한 제안이 있습니다. (https://ai.google.dev/docs/prompt_best_practices)

최근 서점에 가면 꽤 많은 숫자의 프롬프트 엔지니어링을 설명하는 책들이 있는데요.

프롬프트를 완벽하게 작성하는 방법이라는게 다른 LLM은 말할 것도 없고, 같은 LLM에서도 새 버전이 나올 때마다 반응이 달라지는 것 같습니다.
지금과 같은 빠른 발전 속도라면 몇년 후에는 시스템이 더욱 스마트해져서 이렇게 복잡한 프롬프트가 필요 없을지도 모르는 상황이라, 과연 서점의 책들이 언제까지 효용성이 있을지 모르겠네요.

빠르게 이런 벤더의 도큐멘테이션을 흡수하는게 최선이지 않을까 하는 개인적인 의견입니다.