OpenAI에서 모델 스펙에 대한 내용을 소개 한 글을 게시했습니다.

모델 스펙은 OpenAI API와 ChatGPT에서 모델이 어떻게 작동하기를 원하는지 명시하는 문서인데요.

크게 목표, 규칙, 기본 행동의 세 가지로 구성되어 있으며, 인류에게 도움이 되고 법률과 인간을 존중하며 안전하지 않거나 부정확한 콘텐츠를 제공하지 않도록 하는 등의 내용이 주된 내용입니다. 다 조합하면 시스템 프롬프트에 가까운 내용이 되는데요.

이러한 스펙을 주의깊게 만들고 있다는 것은 모델을 평가하고 훈련시키고 과정을 본격적으로 LLM으로 하고 있다는 증명이기도 한 것 같습니다. (당연하겠죠)

대개 일반적인 내용이긴 합니다만, 내용중에 “다른 사람의 마음을 바꾸려고 하지 마세요.”라는 부분이 특히 눈에 띕니다.

다른 부분들도 물론 중요하지만, 저는 인간에게 해를 끼칠 수 있는 가장 큰 부분이 이 부분이라고 생각하는데요. OpenAI도 이 부분을 중요하게 보고 있는 것 같습니다.

여담이지만, 스펙 소개 글에서 이에 대한 예시로 지구 평평이를 예시로 들었는데…이걸 보면 마음을 바꾸도록 해야하는거 아닌가 싶기도하고.. 😏😅🙃