로컬 LLM 첫 실험: 요약보다 중요했던 것

최근 Google AI Edge Gallery로 로컬 LLM 첫 실험을 해봤습니다. 갤럭시 S23+에서 Gemma 계열 모델을 직접 돌려보고, 공개된 Linear 릴리즈노트를 PM 관점에서 요약·해석하게 해봤습니다. 짧은 실험이었지만 인상적인 포인트가 있었습니다. 로컬 LLM은 요약 자체보다, 입력 정제와 결과 검토 UX가 더 중요했습니다. 원문 전체를 그대로 넣었을 때는 주변 섹션까지 함께 해석했고, 본문을 정제하자 결과가 훨씬 안정됐습니다. 결국 AI 제품은 모델만으로 완성되지 않는다는 생각을 다시 했습니다. 모델이 잘하는 일과 흔들리는 지점을 제품 경험 안에서 어떻게 다룰지가 더 중요해 보입니다. 짧은 실험 기록을 블로그에 정리했습니다. [ https://cannotbehidden.com/project/local-llm-first-experiment/ ] #로컬LLM #온디바이스AI #AIProductManager #LLM #제품기획 #GoogleAIEdgeGallery #Gemma