프럼프트 엔지니어링의 힘

올해 초만 해도 제너레이티브 AI가 많은 조직에서 필수적인 요소가 된 것은 말할 것도 없고, 거의 화두가 되지 않았다는 사실은 상상하기 어렵습니다. 도입에 가장 큰 장애물 중 하나는 점점 더 널리 보급되고 있는 기술 자체가 아닙니다. 직원들이 이러한 획기적이고 업무를 변화시키는 서비스에 익숙해지도록 준비시키는 것이 더 큰 문제입니다. 글쓰기, 비판적 사고, 통계가 모두 중요한 업무 기술인 것처럼 프롬프트 엔지니어링도 곧 그 자리를 차지하게 될 것입니다. 제너레이티브 애플리케이션에서 최상의 결과를 얻는 방법을 아는 것은 모든 조직 수준에서 필수적인 요소가 될 것입니다. 리더가 직원들에게 프롬프트를 제공하고 올바르게 사용할 수 있도록 설정하는 방법을 살펴보세요.

대부분의 기업이 제너레이티브 AI와 대규모 언어 모델(LLM)이 제공하는 기능을 탐색하고 있는 가운데, 사례 연구와 실제 사용 사례에서 이미 그 잠재력이 확인되고 있습니다. 최고 경영진은 어떤 사업부가 이러한 기술을 통해 가장 큰 이점을 얻을 수 있을 뿐만 아니라 직원들에게 어떤 방식으로 가장 많은 혜택을 제공할 수 있는지에 대한 중요한 질문에 대해 고민하고 있습니다.

예를 들어, MIT, BCG, UPenn Wharton 및 기타 기관에서 발표한 최근 논문은 제너레이티브 AI를 도입했을 때 직원들이 성과 혜택을 얻을 수 있는 뚜렷한 방법을 보여줍니다. 성과가 가장 높은 직원은 생산성이 17% 증가한 반면, 성과가 낮은 직원은 무려 43%나 증가했습니다.

LLM이 근로자의 생산성에 미치는 영향은 아직 완전히 밝혀지지 않았지만, 이러한 파괴적인 기술이 모든 수준의 근로자는 물론 모든 수준의 산업을 혁신하는 데 큰 역할을 할 것임은 분명합니다. 성공 여부는 여러 가지 면에서 제너레이티브 AI에 대한 근로자의 이해와 이러한 기술을 워크플로에 통합하는 방법에 따라 달라질 것입니다. 제너럴 AI 어시스턴트나 엔터프라이즈 생산성 소프트웨어에 내장된 기능을 사용하더라도 조직이 얻는 결과가 특별하기보다는 평범할 수 있습니다.

따라서 최적의 결과를 도출하기 위해 모델을 개선하고 안내하는 데 사용되는 기술인 신속한 엔지니어링은 비즈니스의 모든 측면에 이 기술을 통합하려는 기업이 늘어남에 따라 개발 및 연마해야 할 중요한 기술이 되고 있습니다.

그렇다면 이 프로세스가 LLM을 효과적으로 사용하는 데 중요한 이유는 무엇일까요? 프롬프트를 작성하는 사람들이 표준적인 결과물과 뛰어난 결과물 사이의 경계를 정의하기 때문입니다. 즉, 프롬프트를 작성하는 사람들의 말과 아이디어가 결과를 만들어내기 때문입니다. 프롬프트를 작성하는 사람들을 도울 수 있는 방법은 다음과 같습니다.

프롬프트의 힘
LLM을 최대한 활용한다는 것은 원하는 결과물을 얻기 위해 어떻게 작업해야 하는지 이해하는 것을 의미합니다.

검색 쿼리가 검색 엔진에서 특정 결과를 반환하는 방식과 유사하게, 생성형 AI 프롬프트는 모델로부터 응답을 안내합니다. 사용자가 선택한 단어와 구문, 프롬프트의 구조, 사용자가 제공하는 컨텍스트는 출력을 형성하는 지침과 안내 역할을 합니다. 프롬프트가 부정확하거나, 잘못 설계되었거나, 모호한 경우 생성되는 출력도 부정확할 가능성이 높습니다.

간단히 말해, LLM은 자신이 모르는 것을 모릅니다.

예를 들어, Google의 경로 기반 언어 모델(PaLM) 2는 수십억 페이지의 텍스트, 웹페이지, 학술 논문 등을 연구하여 자연어로 텍스트와 코드를 생성하는 모델을 만들었습니다. 하지만 이 모델 자체에는 이러한 정보와 이를 적용하는 방법에 대한 의식적인 이해나 인식이 없습니다.

다음 프롬프트를 생각해 보세요:
"끈 이론에 대한 설명을 작성하세요."

이 프롬프트는 응답을 생성하지만 모델의 동작을 조정할 수 있는 다른 가드레일을 제공하지 않습니다. 어떤 작업을 수행하려는지 지정하거나 원하는 결과에 대한 추가 지침을 포함하지 않습니다. 이는 마치 동료가 범위나 구체적인 결과물에 대한 세부 정보를 제공하지 않고 프로젝트를 완료하라고 요청하는 것과 비슷합니다.

모든 일이 그렇듯이 프롬프트 엔지니어링에서도 맥락이 중요합니다. 당신은 단순한 프로듀서가 아니라 감독이며, 더 구체적이고 명확할수록 "배우"에게 더 좋습니다.

끈 이론에 대한 질문을 받는 LLM은 끈 이론의 정의를 요약한 짧은 단락을 만들어야 할지, 기본 개념을 설명하는 비디오 스크립트를 만들어야 할지, 전체 프레임워크를 개괄적으로 설명하는 여러 강좌가 포함된 전체 교육 커리큘럼을 만들어야 할지 모릅니다.

프롬프트 엔지니어링에서는 컨텍스트가 중요합니다. 여러분은 단순한 프로듀서가 아니라 감독이기 때문에 더 구체적이고 핵심을 짚어줄수록 "배우"에게 더 좋습니다.

더 효과적인 프롬프트는 다음과 같습니다:
"물리학을 처음 공부하는 12~14세 학생을 대상으로 끈 이론의 기본 개념을 설명하는 300 단어짜리 블로그 게시물을 작성하세요. 자연스러운 언어와 이해하기 쉬운 문장을 사용하여 답변의 틀을 짜세요."

문맥, 청중, 어조, 목소리, 형식에 대한 세부 정보를 제공하면 모델이 응답을 생성할 때 결정을 내리는 데 도움이 되는 참조 프레임워크를 제공합니다. 경우에 따라서는 대표적인 예를 제공하거나 고객, 시장 및 업계에 대한 추가 정보를 포함하여 LLM이 콘텐츠를 만들 때 이상적인 잠재 고객을 이해하는 데 도움을 줄 수도 있습니다.

프롬프트는 모델이 특정 비즈니스 및 잠재 고객의 요구 사항을 가장 잘 충족하는 방법에 대한 청사진 역할을 합니다. 핵심은 모델의 기능을 활용하여 고품질의 관련성 있고 정확한 결과를 도출할 수 있는 올바른 프롬프트를 만드는 것입니다.

신속한 응답의 주기
프롬프트 엔지니어링에는 초기 프롬프트뿐만 아니라 사용자의 응답도 중요한 역할을 합니다. 이는 입력과 출력 간의 공생 관계입니다. 초기 프롬프트는 방향을 설정하고, 생성된 결과를 통해 피드백을 제공하여 후속 프롬프트를 미세 조정할 수 있습니다.

응답은 프롬프트와 학습 데이터의 강점과 약점을 반영하는 거울과 같습니다. "잘못된" 결과는 종종 개선해야 할 부분을 밝혀주며, 명확성이 부족하거나 원하는 응답을 생성하기 위해 더 많은 정보가 필요한 부분에 대한 유용한 단서를 제공할 수 있습니다.

위의 문자열 이론 프롬프트를 사용하여 다음과 같은 추가 컨텍스트를 추가할 때 출력이 어떻게 달라질 수 있는지 평가할 수 있습니다:

응답을 생성할 때 LLM이 시뮬레이션해야 하는 페르소나
부제목, 글머리 기호 목록 및 콜투액션과 같은 정보 서식 지정
인용문, 예시 또는 일화를 추가하기 위한 지침
콘텐츠에서 제외할 정보에 대한 구체적인 세부 사항
입력을 입력할 때마다 생성된 결과를 예상과 비교하여 분석하고 그에 따라 수정하여 결과에 만족할 때까지 이 과정을 반복할 수 있습니다. 이러한 지속적인 상호 작용 루프를 통해 다양한 접근 방식을 테스트할 수 있으므로 구조와 문구의 특정 변경이 모델 응답의 품질, 정확성 및 정밀도를 어떻게 유도하는지 파악할 수 있습니다.

프롬프트 엔지니어링은 과학인 동시에 창의적인 예술이지만, 성공의 토대는 대규모 언어 모델의 기술적 한계를 인식하여 성능과 정확성을 극대화할 수 있는 능력에서 비롯됩니다. 모델마다 아키텍처, 학습 방법론, 데이터 세트가 다르기 때문에 한 모델에서 효과가 있는 것이 다른 모델에서는 효과적이지 않을 수 있습니다. 쿼리를 실험해 보면 다양한 모델이 어떻게 의사 결정을 내리는지 파악하는 데 도움이 될 뿐만 아니라 원치 않는 편견과 착각을 완화하는 데 도움이 되는 더 많은 제어 기능을 제공할 수 있습니다.

더 생산적인 인력으로 가는 길 제시하기
아직 시작 단계에 불과하지만, 이미 제너레이티브 AI는 더 의미 있고 가치 있는 업무에 시간과 에너지를 빼앗기는 반복적인 업무의 부담을 덜어주는 데 도움을 주고 있습니다.

마케터들은 몇 분 만에 문맥과 연관성이 높고 매력적인 콘텐츠를 작성하는 방법을 발견하고 있습니다. 개발자는 AI 기반 코드 생성, 코드 완성, 디버깅 등을 제공하는 제너레이티브 AI 어시스턴트를 통해 생산성을 높이고 있습니다. 컨택 센터 상담원은 제너레이티브 AI 인터페이스와 생성된 요약의 지원으로 처리 시간을 단축하여 업무를 더 쉽게 처리하고 고객 경험을 개선하고 있습니다.

점점 더 많은 조직이 제너레이티브 AI를 도입함에 따라 직원들이 이러한 모델과 기술을 최대한 활용하는 데 필요한 스킬과 지식을 갖추도록 하는 것이 그 어느 때보다 중요해졌습니다. 교육 프로그램에 투자하거나 Google Cloud의 제너레이티브 AI를 위한 스킬 부스트와 같은 무료 리소스를 활용하면 직원들이 편향되거나 무의미한 출력과 같은 일반적인 함정을 피하면서 입력을 설계하고 미세 조정하는 방법을 배우는 데 도움이 될 수 있습니다.

직원이 자신의 인사이트와 업계 전문 지식을 바탕으로 제너레이티브 AI를 사용하기 시작하고 이를 조직 데이터에 주입하면 이전 성과 수준에 관계없이 역량이 증폭됩니다. 하지만 단순히 도구가 있다고 해서 모든 직원이나 부서에서 동일한 혜택을 누릴 수 있는 것은 아닙니다.

출처: 구글클라우드 블로그