2025 원티드 HIGH FIVE 후기
Brunch Story
Structured Output은 텍스트 생성 결과의 품질이 떨어지는 문제도 있지만, 지시문과 컨텍스트가 조금만 잘못 구성되어도 할루시네이션이 꽤 많이 생긴다.
확실히 데이터 추출 용도로만 좋고, 필요하다면 주요 작업은 Plain text로 하고 Structured Output은 마무리 용도로만 구성하는 것이 좋겠다.
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2024년 11월 14일 오전 1:49
Function Call도 그렇고 Claude의 XML도 그렇고, 중간에 코드 형태의 무언가가 텍스트 생성(풍부하고 창의력인 텍스트, 추론 등) 성능에 영향을 주는 것 같음. 심지어 markdown도 성능 하락이 좀 의심이 감. 인간이라고 본다면.. 뭐랄까 자유로운 사고를 막는 느낌..? ㅎㅎ
하
... 더 보기