[LLM 필수 개념 알아가기] 프롬프팅 (prompting)

🔥 3줄 정리 : 프롬프팅이란?

1. 좋은 질문을 하는 것

2. 아웃풋을 정의하고 제한하는 것

3. 유저들의 시스템 해킹을 막는 것

👉 왜 중요한데?

23년도 1월부터 프롬프팅이라는 분야가 생기고 전문화되기 시작했습니다. 같은 질문을 해도 아 다르고 어 다르다고 하죠? 챗지피티에게 어떻게 질문하는지에 따라 결과가 크게 달라질 수 있다는 것이 명백해졌습니다.

무한히 다양한 이야기를 해낼 수 있는 이 LLM이라는 도구에게 잘 질문하면, LLM이 잘 대답하는 것과 모르는 것을 구분하게 하고, 없는 이야기를 지어내는 것을 막을 수 있습니다.

이런 작업을 전문적으로 하는 프롬프트 엔지니어들이 등장하여 LLM에게 일관적이고 원하는 답변을 얻어내기 위해 질문들을 관리하고 실험하는 역할을 맡게 되었습니다.

👀 프롬프팅 예시

LLM에게 "너가 아는 것을 총동원해서 답해줘" 라고 하기보다는 "내가 너를 이렇게 사용하고 싶은데, 너의 역할은 이거야"라고 질문을 한다면 더 명확하고 믿을만한 결과물을 얻을 수 있습니다. 모델의 역할을 제한하고 또 단계별로 사용할 수 있도록! 프롬프팅을 해볼까요?

✒️ 문장의 사실 여부를 알고 싶은 경우?

하나의 문단을 주고, 그 문단에서 이야기하는 사실들을 검증하고 싶다면 어떤 질문들을 할 수 있을까요? LLM에게 질문을 만들어달라고 프롬프팅해보겠습니다.

• 프롬프트 :

<|startofprompt|>

[지시] 아래의 문단을 읽은 뒤, 그 속에서 사실에 근거한 주장들을 뽑아내고, 이후 해당 주장들의 사실여부를 확인할 수 있도록 검색 엔진에 던질 질문들을 만들어줘.

[문단] 김별별과 박땡땡이 결혼했다.

그들에겐 5명의 자녀가 있으며, 김별별은 업스테이지에서 소프트웨어 엔지니어로 근무한다.

[요청] 여기서 사실에 근거한 주장들을 뽑아주고, 사실 여부 확인할 수 있는 질문들을 만들어줘. 질문을 만들 때에는 SEARCH("query") 형식으로 만들어줘.

<|endofprompt|>

• 결과 :

  • 사실적 주장

    • 김별별은 박땡땡과 결혼했습니다.

    • 별별과 땡땡은 다섯 명의 자녀를 두고 있습니다.

    • 별별은 업스테이지에서 소프트웨어 엔지니어로 일하고 있습니다.

  • 사실 여부 검증 질문

    • SEARCH("김별별 박땡땡 결혼")

    • SEARCH("김별별 아이의 수")

    • SEARCH("업스테이지 소프트웨어 엔지니어 김별별")