어느 기업보다 빠르게 링크드인은 생성형 AI를 기업의 비즈니스에 접목한 회사인데요, 관련해서 생성형 AI를 적용한 사용 후기 소개한 기사 공유합니다.😃 (출처: CIO)

<“구인구직 매칭 서비스에 LLM 활용해보니...” 링크드인이 전하는 생성형 AI 현실 교훈>

적절성 확인과 시작

• 기술 초기의 과대 광고와 낮은 완성도가 문제였는데, 그 결과 개발된 일자리 매칭 노력의 초기 버전은 말 그대로 ‘무례’했습니다.

• 링크드인이 체득한 첫 번째 교훈은 청중의 기대에 맞춰 LLM을 조정하는 것의 중요성, 그리고 인간적이지는 않더라도 최소한 인간적인 답변을 하는 방법을 이해하도록 돕는 것이었습니다.

속도 이슈

• LLM의 장점 중 하나가 빠른 속도로 언급되곤 하기 때문에 링크드인은 LLM이 도움이 될 것이라고 기대했지만, 실제 배포에서는 그렇지 않았다고 합니다.

• LLM이 없었다면 프로젝트의 여러 측면을 완성하는 데 얼마나 오래 걸렸을 지를 묻는 질문에 일부 요소는 전혀 완성할 수 없었을 것이라며, 다른 요소는 몇 년이 걸렸을 수도 있었다고 합니다. 특정 작업은 2~3개월이 걸렸을 수 있지만, LLM을 통해서는 일주일도 안 돼서 마스터할 수 있었다라고 합니다.

비용 문제

• 개발을 위해 지출한 금액은 무시할 수 있는 수준이었지만, 링크드인의 고객에게 데이터를 제공하는 단계에서는 비용이 폭발적으로 증가했다고 합니다.

• 높은 비용의 원인은 링크드인이 LLM 제공자이자 모기업인 마이크로소프트와 체결한 라이선스 계약이 사용량, 특히 입력 및 출력 토큰을 기준으로 책정되었기 때문이라고 합니다.

평가 과제

• LLM은 정확성, 관련성, 안전성 및 기타 우려 사항 측면에서 아직 문제를 가진 것으로 전해집니다.

데이터 품질

• 링크드인이 구인/구직 매칭 서비스에서 겪은 어려움의 일부는 고용주와 잠재적 직원 양측의 데이터 품질 문제에 기인한다고 합니다. 데이터 입력의 품질이 높아지면 회사의 일자리 매칭 LLM이 훨씬 더 효과적으로 작동할 수 있기에 양쪽 모두에게 이익이 될 수 있습니다.

사용자 경험

• 대규모 회원 기반을 다룰 때 정확도 및 관련성 메트릭은 잘못된 편안함을 줄 수 있다라고 표현 했는데, 이는 LLM이 90%를 제대로 맞힌다면 10명 중 1명은 끔찍한 경험을 할 수 있다는 뜻이라고 합니다.

실시간 운영

• 링크드인의 회원 수가 10억 명에 달하기 때문에 구인 광고가 게시된 후 몇 분 안에 수천 개는 아니더라도 수백 개의 응답을 받을 수 있는데, 이미 수백 명이 지원했다는 사실을 알게 되면 많은 구직자가 더 이상 지원하지 않을 수 있습니다. 따라서 자격 요건을 갖추지 못한 지원자가 자료를 제출하기 전에 일치하는 멤버를 신속하게 찾도록 도와야 합니다.

• 고용자 입장에서 연봉 범위를 공개하는 것을 꺼리는 경우, 자격을 갖춘 지원자가 해당 직무에 관심을 가지지 않을 수 있기 때문에 더 복잡해 질 수 있고 이는 LLM이 해결할 수 없는 문제입니다.

원본 기사 링크는 아래와 같습니다. 감사합니다.🙏
[Source Link] https://www.ciokorea.com/news/335094#csidx5df7546624d82b2ae9442854655cdfd