AI계의 모두의 선생님이라고 불리는 안드레이 카파시가 오늘 매우 유익한 팁을 줬는데요. 이거 매우 중요한 내용이네요. 모두들 두 번 읽어보세용~ ㅎㅎ (의미를 잘 전달하기 위해 약간 의역함)

—

LLM을 어떤 “존재”로 생각하지 말고 시뮬레이터로 생각하세요. 예를 들어, 어떤 주제를 탐구할 때 이렇게 묻지 마세요:

“너는 xyz에 대해 어떻게 생각해?”

“너”라는 존재는 없습니다. 대신에 이렇게 시도해보세요:

“어떤 그룹이 xyz를 탐구하기에 좋은 사람들일까? 그들은 뭐라고 할까?”

LLM은 다양한 관점을 전달/시뮬레이션할 수 있지만, xyz에 대해 오랜 시간 스스로 “생각해본” 적이 없고, 자신의 의견을 형성한 것도 아닙니다.

따라서 질문에 “너”라는 표현으로 강제하면, 파인튜닝 데이터의 통계에 암시된 특정 페르소나 임베딩 벡터를 채택해 그걸 시뮬레이션 할 뿐입니다.

그렇게 물어봐도 괜찮지만, 사람들이 “AI에게 묻는다”는 것에 부여하는 신비함은 사실 생각보다 훨씬 덜합니다.