챗지피티와 같은 LLM을 잘 사용하는 방법

챗지피티등의 LLM서비스(이하 챗지피티로 통일)는 그냥 사용해도 충분히 좋지만,

제 나름대로 사용하고 있는 몇가지 유용한 방법을 공유드립니다.

요약

1. 맥락을 유지한다.

2. 성능좋은 모델을 사용한다.

3. 프롬프트 템플릿을 사용한다.

4. 챗지피티는 제안하고 선택은 내가한다.

5. ChatGPT 맞춤 설정 (ChatGPT Customize) 을 사용하자.

1. 맥락을 유지한다. 

챗지피티의 원리는 특정 단어 다음에 올 가장 높은 확률의 단어를 계속해서 나열하는 것입니다.

그러므로 답변의 성능을 높이기 위해서는 컨텍스트를 유지하는 것이 좋습니다.

컨텍스트를 유지하는 가장 쉬운 방법은 바로 '주제별로 채팅창을 유지' 하는 것입니다.

대부분의 LLM서비스에는 예전에 했던 채팅창을 어느정도 유지해주는 기능이 있습니다.

이기능을 사용해서 주제별로 이야기를 이어가나는 것이 도움이 됩니다.

2. 성능 좋은 모델을 사용한다. 

성능 좋은 모델은 보통 비쌉니다. 챗지피티의 경우에 o1-preview 모델이 최신 모델입니다.

깊은 사고를 필요로하는 질문의 경우 o1-preview를 사용하면 좋은 답변을 내줍니다.

예를들어 strawberry 안에 r이 몇개 있는지에 대한 질문을 보통은 답변을 못하는데요.

이는 챗지피티가 통계적 기반에 따라 답을 하기 때문입니다.

이러한 추론 이 필요한 경우 o1-preview 모델을 사용하면 좋은 답변을 줍니다.

이번에 2025 수능 국어 영역에서 1개만 틀렸다고도 합니다.

3. 프롬프트 템플릿을 사용한다. 

프롬프트를 사용하여 챗지피티에게 좋은 응답을 받기 위해서는 여러번 대화를 주고받아야 하는 경우가 많습니다.

이럼에도 좋은 응답을 얻지 못하는 경우도 있죠.

짧은 대화로 좋은 응답을 얻으려면 프롬프트를 좀 더 자세하게 작성하는 편이 좋습니다. 그러나 그냥 자세히 작성하라고 하면 보통은 막막한 경우가 많습니다. 문장 작성에 도움을 받기위해서는 다음과 같은 프롬프트 템플릿을 사용하면 좋습니다.

목적: [작업의 목적]
형식: [원하는 출력 형식]
톤: [원하는 어조]
길이: [원하는 길이]
추가 요구사항: [기타 고려사항]

사람들이 많이 인용하는 프롬프트 템플릿 프레임워크로 AUTOMAT, CO-STAR 가 있습니다.

아래 URL을 참조 하시길 바랍니다.

https://medium.com/the-generator/the-perfect-prompt-prompt-engineering-cheat-sheet-d0b9c62a2bba

4. 챗지피티는 제안하고 선택은 내가한다. 

새로운 아이디어가 필요한 경우, 챗지피티에게 맡기는 경우가 종종 있습니다.

그러나 이렇게 해서는 좋은 응답을 얻기가 힘듭니다.

1번에 서술한 대로 챗지피티는 랜덤하게 텍스트를 만들어주는 도구이기 때문입니다.

그러므로 챗지피티를 사용해 좋은 결과를 얻으려면 챗지피티에게 제안을 해달라고 하는 것이 좋습니다.

예를들어 친구에게 줄 선물을 10가지 정도 제안해달라. 이런식으로 할 수 있겠습니다.

사용자는 챗지피티가 제안해준 것에서 골라서 더 디테일하게 질문을 하는 방식으로 진행하는 것이, 좋은 응답을 얻을 수 있습니다.

5. ChatGPT 맞춤 설정 (ChatGPT Customize) 을 사용하자. 

챗지피티의 메뉴에 보시면 ChatGPT 맞춤 설정 이라는 것이 있습니다.

맞춤설정 관련해서는 아래의 글을 참고하시면 좋습니다.

https://brunch.co.kr/@acc9b16b9f0f430/87