속상합니다. 좋은질문과 나쁜질문이 무엇인가요?
오늘 유튜브 스트리밍으로 팁스타운에서 진행한 생성형 AI 활용방법에 대한 강연을 시청하고 있던 중 강연 막바지에 QnA 시간을 가지고 있었는데 속상한 일이 있었습니다. 질문에 태클을 거신 다른 유튜브 시청자분이 계셨습니다.
저는 한시간동안의 강연을 듣고 아래 4가지 궁금점을 유튜브 채팅방으로 질문했습니다.
1. chatGPT의 GPT4 모델의 비용이 저렴하지 않은 것으로 알고있습니다. 영어 대비 한글의 토큰은 약 3배가 비싼 것으로 알고있는데 빌표자 A님의 팀에서는 이러한 비용을 절약하기 위해 어떤 방법들을 시용했는지 알 수 있을까요?
2. 발표자A님의 팀에서 사용자들에게 제공하는 GPT4를 활용한 서비스에서 대용량 트래픽을 어떻게 처리했는지 궁금합니다. GPT4에서 반환하는 내용을 서빙하기 위해 에코 서버를 여러대 두고 로드밸런싱하는 형태로 운영하고 있나요? 아니면 다른 방법일까요?
3. 이미지 생성 AI가 종종 부적절한 방법으로 사용되는 사례가 보입니다. 발표자B님의 팀에서는 사용자가 AI 에게 입력하는 부적절한 요구를 어떻게 필터링하고 관리하고 있는지 공유해주실 수 있나요?
4. 발표자 C님의 팀에서 AI를 테스트할 때 프라이버시 레이어, 정보보안 레이어, 윤리 레이어 등으로 나누어 꼼꼼하게 테스트하는 것을 보고 놀랐습니다. 레이어라는 것이 프롬프트 엔지니어링 방식으로 이 레이어를 구성했는지 궁금합니다. 테스트를 하는데 사용하는 테스트 툴이 있다면 간단하게 소개도 해주실 수 있나요?
그리고 다른 시청자분이 저를 향해 이렇게 말씀해주셨습니다...(지금 생각해도 속상합니다...)
[OOO님 너무 핑크프린세스같은 질문을 많이 하시네요. 이쪽 분야도 아무것도 모르는분 같은데 구글링해도 나올 내용들을 그저 "알려줘" 하시네요.]
저는 최근에 인공지능에 재미가 붙어 자연어 처리를 공부하고 있습니다. 사내에서 자연어 다중분류 모델을 만들고있고, 그만큼 구글링도 많이하고 chatGPT를 많이 활용하는 프론트엔드 개발자 입니다.
여러분들의 생각이 궁금합니다. 제가 인공지능 분야에 지식이 전무한것은 인정하지만 저의 질문이 정말 핑크프린세스라고 취급받을 만큼 그저 알려줘하는 질문이었나요? 단지 실무에서 경험한 내용을 듣고싶었지만 저렇게 말씀하시는 시청자분을 보고는 낙담했습니다.
만약 여러분이 질문을 받으셨다고 했을때 여러분이 생각하는 좋은 질문과 나쁜 질문의 경계가 무엇인가요?