유안타증권 AI Agent 프로젝트: 실전 LLM 서비스 개발(고생)기
Medium
https://medium.com/crowdworks-tech/%EC%9C%A0%EC%95%88%ED%83%80%EC%A6%9D%EA%B6%8C-ai-agent-%ED%94%84%EB%A1%9C%EC%A0%9D%ED%8A%B8-%EC%8B%A4%EC%A0%84-llm-%EC%84%9C%EB%B9%84%EC%8A%A4-%EA%B0%9C%EB%B0%9C-%EA%B3%A0%EC%83%9D-%EA%B8%B0-3b874a457aaa
누가 LLM 기반 챗봇은 뚝딱 만들어진다고 했는가..
저도 23년 2월 신세계 뉴스룸 칼럼에 유사한 맥락의 주장을 한 적이 있었는데요, 당시만 해도 LLM이 다 해결해줄 것이라 과한 상상하는 사람들이 많았던 기억이 나네요.
“고객 대응 챗봇으로 활용하려는 계획을 검토한다고 했을 때도, 앞서 언급했던 할루시네이션을 어떻게 제어할 것인지, 고객정보를 어떻게 결합해서 구체적인 답변을 하게 할 것인 것인지 등을 기획적/기술적으로 검토해야 합니다. 이 외에도 시나리오 기반 챗봇과 달리 어떤 유형에도 답변할 수 있다는 장점을 고객들이 악용한다면 어떤 부작용이 발생할 것인지, 또 이에 따라 발생하는 트래픽 문제(비용 증가)는 어떻게 대비할 것인지 등에 대한 고려가 필요할 수도 있습니다.”
(관련 칼럼 링크: https://www.shinsegaegroupnewsroom.com/99393/)
다음 내용이 궁금하다면?
이미 회원이신가요?
2025년 2월 27일 오전 9:27
LLM서비스 개발에 현실고증이 제대로 녹여저있는 글이네요.. 읽으면서 고민했던 흔적들이 많이 와닿습니다
1. 어제의 태양은 오늘의 태양과 다르다. 이름만 같을 뿐, 둘은 전혀 다른 존재다.
1. 이 세계에 존재하는 책의 99.99%를 저는 아직 읽은 적이 없습니다. 그 사실 앞에서 망연자실해집니다.
혼다가 재사용로켓 시험발사에 성공. 시험체는 홋카이도 다이키에서 271 m 상공까지 도달한 후 무사히 착륙.
... 더 보기