Structured Output은 텍스트 생성 결과의 품질이 떨어지는 문제도 있지만, 지시문과 컨텍스트가 조금만 잘못 구성되어도 할루시네이션이 꽤 많이 생긴다.


확실히 데이터 추출 용도로만 좋고, 필요하다면 주요 작업은 Plain text로 하고 Structured Output은 마무리 용도로만 구성하는 것이 좋겠다.

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2024년 11월 14일 오전 1:49

댓글 1

  • Function Call도 그렇고 Claude의 XML도 그렇고, 중간에 코드 형태의 무언가가 텍스트 생성(풍부하고 창의력인 텍스트, 추론 등) 성능에 영향을 주는 것 같음. 심지어 markdown도 성능 하락이 좀 의심이 감. 인간이라고 본다면.. 뭐랄까 자유로운 사고를 막는 느낌..? ㅎㅎ

함께 읽은 게시물

[2025 원티드 하이파이브 후기]

... 더 보기

2025 원티드 HIGH FIVE 후기

Brunch Story

2025 원티드 HIGH FIVE 후기