인문부터 IT 소양까지 생각의 근육을 키워줄 책 소개 눈 깜짝할 새에 2023년도 3분기가 지나고 있고, 어느덧 완연한 가을이 왔다. 매주 브런치에 글 1개 이상을 투고하겠다는 올해 첫 다짐은 시원하게 실패했다. 그나마 '브런치 정기 투고하기'를 제외하고 올해의 목표 리스트는 약 20개 정도가 더 있는데, 다행히도 개중 절반 정도는 훌륭하게(?) 수행

PM을 위한 추천도서 4

1 2 3 는 어디에?
링크타고 역추적 ^.*

https://brunch.co.kr/@mobiinside/5548

Brunch Story

[퍼블리] 콘텐츠 공유방

퍼블리를 알고는 있지만, 아직 구독하지 않고 계신 분들🙋‍♀️을 찾습니다!

관심이 있긴 한데, 어떤 이유로 구독을 망설였던 적 있으신가요?
혹은 이전에 구독 후 취소했다가 다시 재구독을 하지 않고 계신가요?
그렇다면 퍼블리 콘텐츠를 공유하는 오카방에 참여해보세요 :)

- 퍼블리에 어떤 신규 콘텐츠들이 올라오는지
- 요즘은 어떤 트렌드들이 있는지
- 다른 사람들은 어떻게 일하고 있고, 무엇에 관심을 두는지

살펴보실 수 있을 거예요!
물론, 바로 구독을 하지 않으셔도 괜찮으니, 편한 마음으로 입장해주셔도 좋겠습니다. :)

[운영 안내]
✅ 콘텐츠 배송 시간: 주 1회, 매주 월요일 오전 8시 (공휴일 제외)
*공휴일로 인해, 10/9주차까지는 매주 수요일에 콘텐츠가 발송됩니다.

✅ 어떤 콘텐츠를 배송해주나요?
- 퍼블리 추천 콘텐츠
- 퍼블리에서 발행한 콘텐츠만 추천드려요.
- 구독하지 않아도 무료로 읽을 수 있는 링크로 보내드려요.
(회원가입 후 로그인하시면 읽으실 수 있어요.)

✅ 본 오카방은 X소통 없는X 오카방이므로 입장시 인사는 생략해 주세요!
자세한 사항은 오카방 입장 후 상단의 공지를 꼭 확인해 주세요 

✅ 입장링크: https://open.kakao.com/o/gT9U3PHf

Kakao

매주 1회, 퍼블리 콘텐츠를 무료로 읽을 수 있어요🔍

'아이리시 인디펜던트 Irish Independent'가 Mark Porter Associates와 협업해 리브랜딩했습니다. 아이리시 인디펜던트는 1905년부터 발간된 아일랜드 로컬 매거진입니다. 10년 넘게 The Guardian에서 크리에이티브 디렉터로 일한 Mark Porter가 프로젝트를 이끌었습니다. 하프는 60년 이상 동안 아이리시 인디펜던트의...

아이리시 인디펜던트 리브랜딩: 모두가 쓰는 상징에 개성 담기

‘아이리시 인디펜던트 Irish Independent’가 Mark Porter Associates와 협업해 리브랜딩했습니다. 아이리시 인디펜던트는 1905년부터 발간된 아일랜드 로컬 매거진입니다. 10년 넘게 The Guardian에서 크리에이티브 디렉터로 일한 Mark Porter가 프로젝트를 이끌었습니다.

https://designcompass.org/2023/09/27/irish-independent/

디자인 나침반

이미 눈치채신 분들도 많이 있겠지만, 지난주 9월 20부터 페이스북의 브랜드 디자인이 바뀌었습니다. 브랜드 디자인이란 일반적으로 해당 제품의 로고, 워드마크, 색상 팔레트, 타이포그래피, 리액션, 아이코그래피등을 통틀어 이야기합니다. 브랜드의 가장 상징적인 요소들을 이야기하죠. 같은 의미로 아이덴티티 디자인이라고도 부릅니다. 제가 SAP의 총괄 UX 그룹의

페이스북 디자인이 바뀌었다. 그 의미와 내용을 살펴보자

이미 눈치채신 분들도 많이 있겠지만, 지난 주부터 페이스북의 브랜드 디자인이 바뀌었습니다.
브랜드 디자인이란 로고, 워드마크, 색상 팔레트, 타이포그래피, 리액션, 아이코그래피등을 통틀어 이야기합니다. 브랜드의 가장 상징적인 요소들을 이야기하죠. 제가 SAP UX 총괄그룹의 PM이라 조금 풍월을 읊을수 있습니다.
사실 무엇이 바뀌었나를 알기 전에 먼저 왜 이것이 중요하냐를 간단하게 설명드립니다. 나머지 내용은 글 본문을 참조해 주십시오.

[경험하는 방식을 형성]
페이스북의 경우 '올드 세대'들이 주 사용자라고 생각할 수 있지만, 아직 매일 20억 명의 일일 활성 사용자(DAU)가 방문하여 자신의 관심사를 탐색하고, 사람들과 연결하고, 공유할 수 있는 지상 최대의 공간입니다. 이런 소셜미디어로서 사람들이 페이스북에서 주고받는 모든 상호작용은 앱을 열었을 때 부터 닫을 떄까지 페이스북 뿐만이 아닌, 우리가 생각하고 경험하는 방식을 형성합니다. 그리고 이 경험이 '습관'이 되어 '편안함'을 만들게 됩니다.  간단하지만 소셜미디어로서는 '표준'을 만든다는 것은 매우 큰 확장성을 갖습니다. 페이스북의 핵심 색상인 파란색을 중심으로 포괄적으로 사람들이 "파란색 = 페이스 북" 이란 공식을 만들어 더 쉽고도 심리적으로 안정적으로 접근할 수 있도록 합니다.
덧붙여 새로운 브랜드 디자인으로 바뀐 내용을 알아보고, 이번 디자인 변경을 이끈 사람이 누구였는지에 대해서 적어 보았습니다.
관심있는 분들에게 도움이 되길 바랍니다.
[새로운 브랜드디자인]
1. 로고, 워드마크
2. 컬러 팔레트
3. 리액션 아이콘과 그 활용
4. 스펙이 아닌 디자인 시스템으로 도입
[이번 딜리버리의 주역]

<페이스북의 새로운 브랜드 디자인과 그 의미>

매일 20억 명 이상이 사용하는 페이스북이 브랜드 정체성을 새로고침했습니다. 이번 새로고침에서 페이스북은 브랜드를 상징하는 요소를 강화했습니다. 제품부터 마케팅까지 페이스북 브랜드를 통합했고 페이스북을 상징하는 파랑색을 중심으로 새로운 팔레트를 구성했습니다. "우리는 새로워진 로고가 친숙하면서도 역동적이고, 세련되고, 우아한 느낌을 주기를 원했습니다.

페이스북 브랜드 리프레쉬: 섬세하게 다듬고 다듬은 정교한 조각

매일 20억 명 이상이 사용하는 페이스북이 브랜드 정체성을 새로고침했습니다.

이번 새로고침에서 페이스북은 브랜드를 상징하는 요소를 강화했습니다. 제품부터 마케팅까지 페이스북 브랜드를 통합했고 페이스북을 상징하는 파랑색을 중심으로 새로운 팔레트를 구성했습니다.

“우리는 새로워진 로고가 친숙하면서도 역동적이고, 세련되고, 우아한 느낌을 주기를 원했습니다. 미묘하지만 중요한 변화로 우리는 앞으로 추구하는 인상과 광학적인 균형을 이룰 수 있었습니다.”

디자인 디렉터 Dave N이 밝혔습니다.

https://designcompass.org/2023/09/25/facebook-brand-refresh/

Salesforce is hiring back former executives to help the company improve its performance in a challenging economy

Salesforce turns to 'boomerangs,' luring back former execs to help reignite growth

실리콘 벨리에서 본인 자아가 강한 유명한 CEO가 몇명있습니다. 오라클, 세일즈포스, 아마존이 대표적인 경우인데요, 모두 창업자이면서 거대기업으로 직접 키운 카리스마 넘치는 분들입니다.
이런 분들의 특징이 원래 "떠나는 사람 절대 안 잡는" 경향이 있습니다. 떠나는 사람이 아무리 능력이 좋다고 해도, CEO로서의 강한 모습과 일관된 모습이 훨씬 중요하다고 생각하거든요.

[우리 '베니호프'가 변했어요]
어쨌던간에 그랬던 세일즈포스의 베니호프가 나이가 들어 여성호르몬이 늘었는지 이런 본인의 고집스런 카리스마보다 현실적 선택을 하는 "해고했던 직원 다시 뽑는 '부메랑' 정책"을 시작했고, 이미 이 정책에 따라 8명의 최고 임원들이 돌아왔다고 합니다.
물론 이 배경에는 작년에 전체 임직원의 10%에 해당하는 7천명을 해고 한 후 주가가 거의 절반으로 떨어졌기 때문에 성과를 내야 한다는 압박을 받아왔습니다.
이 성과를 위해서는 CEO인 본인과 어떻게 일해야 하는 지를 알고 있는 즉 실행을 빠르게 할 수 있는 전직 임원들이 다시 필요하다고 판단한것입니다.

[이게 과연 좋은 것인가?]
개인적인 의견입니다만, 이게 과연 좋은 것일까 싶습니다. 

1. 남아있던 이들과 새롭게 '부메랑'된 이들의 관계는? 
가끔 조직이 단기간내에 성과를 내야 할 때 본인의 '패밀리'쯤 되는 멤버들로 빠르게 채워넣어 성과를 만들어 내는 경우는 자주 보았습니다만, 그건 사실 보이지 않아서 그렇지 그 기업내에서는 지금껏 그 일을 하고 있던 어떤 누군가를 해고 혹은 재배치 시켰거나, 업무를 재 분배하는 것이었기에 현재 멤버들과 새롭게 재입사라는 '부메랑'임원들과의 갈등이 꽤 생겼던 것을 경험합니다. 또한 이런 현상은 '부메랑'임원들이 또 다시 자기 밑에 '부메랑'매니저나 사원들을 데리고 오기에 연속적으로 문제가 생겼구요. 

2. '부메랑'한 이들의 충성도는?
자신을 버리고 상처를 주고 자신을 다소 무가치하게 만든 전 애인에게 돌아가는 것과 비슷하다고 할까요? 과장된 표현일지 모르지만 그런 회사를 얼마나 신뢰하고 최선을 다할 수 있을까요?

3. '부메랑'한 이들은 '윤리적'일까?
기사를 보면 '부메랑'한 전직 세일즈포스 임원들은 지금 직업이 없어 놀다가 돌아온게 아닙니다. 다들 스타트업이나 다른 기업에서 중요한 임원 역할을 하고 있던 사람들입니다. 어쩌면 그들의 역량이 필요한 곳은 세일즈포스보다 지금의 그곳이었을 지도 모릅니다. 그럼에도 세일즈포스로 돌아온다? 그거야 뭐 뻔한 이유 아닐까요?

이런 부메랑 베테랑들이 얼마나 머무를런지 그리고 성장에 기여할런지 모르겠습니다. CEO로서는 본인이 직접 콘트롤 가능한 임원이 필요하겠지만, 예전의 튼튼한 기업 상황으로 돌아가기 위해 실제 부메랑이 필요하다면 실업무를 담당했던 직원이 되어야 하지 않을까하는 생각을 가져봤습니다. 여러분들의 생각은 어떠실까요?

CNBC

<해고한 직원을 다시 뽑는 세일즈포스 "부메랑" 정책>

유튜브 내부서 "쇼츠가 긴 동영상 잠식" 우려 나와 유튜브 광고 매출 작년부터 '감소' 쇼핑·게임 등 사업 다각화 나선 유튜브 틱톡은 1분 이상의 동영상 콘텐츠 확대 시도 글로벌 동영상 플랫폼 유튜브가 숏폼(짧은 동

'쇼츠' 키우니 광고 수익 줄어... 틱톡 쫓다 딜레마에 빠진 유튜브

유튜브는 쇼츠 인기에 되려 깊어진 고민
———
유튜브는 쇼츠 인기에 힘입어 20억명 이상의 구독자를 모았다. 올해 들어서는 쇼츠에 광고를 붙여 수익화도 이뤘다. 유튜브 채널에 광고를 붙이거나 후원(슈퍼 챗)을 받아 돈을 벌 수 있는 ‘유튜브 파트너 프로그램(YPP)’의 가입 조건을 쇼츠 생산자에게 맞게 완화한 것이다.

문제는 수익성이다. 길이가 15초~1분 내외인 쇼츠 특성상 광고가 여러번 들어가기 어렵고, 클릭률이 높지 않아 광고 단가가 높게 책정되지 않는다. FT는 크리에이터들도 유튜브보다 브랜드로부터 얻는 광고 수익이 더 많아 긴 동영상에 대한 외면이 더 심해질 것이라고 했다.

https://n.news.naver.com/article/366/0000930720?sid=105

Naver

협력자와 시너지 통한 나의 여유 얻기 | 회사에서 일을 할때는 직급에 따라 마음가짐이 다른 듯 하다. 주니어 시절에는 맡은 일에 대해 혼자 힘으로 끝까지 완수하여 성과를 달성하는 노력을 많이하고,시너어로 바뀌게 되면 혼자 힘으로 버거운 일이 많다보니 주변인들의 도움을 통한 성과를 내는 것 이겠다. 일을 함에 있어서 중장기적으로 가져야할 필요충분 조건에 대해 말해준다.

회사업무에 대한 태도

회사업무는 난이도에 따라 대처하는 방법이
다르겠지만, 협력자와 시너지화 하는게 중요해 보입니다. 특히 많은일을 동시다발적으로 해야 할 경우, 꼭 필요한 태도 이겠습니다.

https://brunch.co.kr/@1d46894d603143d/3

회사업무를 대하는 태도는?

Explore the power of fine-tuning LLMs for model optimization. Learn about techniques, considerations, and when not to use LLM fine-tuning.

Fine-tuning LLMs 101 | Data Science Dojo

LLM(대규모 언어 모델)을 파인튜닝하는 것은 관련 데이터를 학습시켜 특정 작업에 맞게 모델의 매개변수를 조정하는 것으로, 모델 성능을 향상시키는 강력한 기법입니다.

🍀 LLM 파인튜닝(fine-tuning)
파인튜닝(fine-tuning)은 특정 작업에 맞게 LLM의 파라미터를 조정하는 프로세스입니다. 이는 작업과 관련된 데이터 세트에 대한 모델 학습을 통해 수행됩니다. 필요한 파인튜닝(fine-tuning)의 양은 작업의 복잡성과 데이터 세트의 크기에 따라 달라집니다.

LLM을 파인튜닝(fine-tuning)하는 방법에는 여러 가지가 있습니다. 한 가지 일반적인 접근 방식은 지도 학습을 사용하는 것입니다. 여기에는 모델에 레이블이 지정된 데이터 세트를 제공하는 것이 포함되며, 각 데이터 포인트는 입력과 출력의 쌍으로 구성됩니다. 모델은 손실 함수를 최소화하여 입력을 출력에 매핑하는 방법을 학습합니다.

LLM을 파인튜닝(fine-tuning)하는 또 다른 접근 방식은 강화 학습을 사용하는 것입니다. 여기에는 원하는 출력을 생성하는 데 대한 보상 신호를 모델에 제공하는 것이 포함됩니다. 모델은 보상 신호를 최대화하여 원하는 출력을 생성하는 방법을 학습합니다.

이러한 어려움에도 불구하고 기초 LLM을 파인튜닝(fine-tuning)하는 것은 특정 작업에서 LLM의 성능을 개선할 수 있는 유망한 접근 방식입니다. 대규모 데이터 세트와 컴퓨팅 리소스의 가용성이 증가함에 따라 파인튜닝(fine-tuning)이 더욱 보편화될 가능성이 높습니다.

🍀 LLM을 위한 파인튜닝(fine-tuning) 기술
파인튜닝(fine-tuning)은 특정 작업에 맞게 LLM의 파라미터를 조정하는 프로세스입니다. 이는 작업과 관련된 데이터 세트에 대한 모델 학습을 통해 수행됩니다. 필요한 파인튜닝(fine-tuning)의 양은 작업의 복잡성과 데이터 세트의 크기에 따라 다릅니다. LLM에는 용도 변경과 전체 파인튜닝(fine-tuning)이라는 두 가지 주요 파인튜닝(fine-tuning) 기술이 있습니다.

1. 용도 변경
용도 변경은 원래 학습된 작업과 다른 작업에 LLM을 사용하는 기법입니다. 예를 들어 텍스트 생성을 위해 학습된 LLM을 감성 분석에 사용할 수 있습니다.

LLM의 용도를 변경하려면 먼저 수행하려는 작업과 관련된 입력 데이터의 특징을 식별해야 합니다. 그런 다음, 이러한 특징을 원하는 출력에 매핑하는 방법을 학습할 수 있는 분류기 모델에 LLM의 임베딩 레이어를 연결해야 합니다. 용도 변경은 전체 파인튜닝(fine-tuning)보다 계산 비용이 적게 드는 파인튜닝(fine-tuning) 기법입니다. 하지만 동일한 수준의 성능을 달성할 가능성은 낮습니다.

2. 전체 파인튜닝(fine-tuning)
전체 파인튜닝(fine-tuning)은 수행하려는 작업과 관련된 데이터 데이터 세트에 대해 전체 LLM을 학습시키는 기법입니다. 이는 가장 계산 비용이 많이 드는 파인튜닝(fine-tuning) 기법이지만 최상의 성능을 얻을 가능성이 가장 높은 기법이기도 합니다.

LLM을 완전히 파인튜닝(fine-tuning)하려면 수행하려는 작업에 대한 입력 및 출력의 예가 포함된 데이터 데이터 집합을 만들어야 합니다. 그런 다음 지도 학습 알고리즘을 사용하여 이 데이터 세트에 대해 LLM을 훈련시켜야 합니다. 파인튜닝(fine-tuning) 기술의 선택은 수행하려는 특정 작업과 사용 가능한 리소스에 따라 달라집니다. 계산 리소스가 부족하다면 용도 변경을 고려할 수 있습니다. 그러나 최상의 성능을 원한다면 LLM을 완전히 파인튜닝(fine-tuning)해야 합니다.

🍀 비지도 파인튜닝(fine-tuning)과 지도 파인튜닝(fine-tuning) LLM 비교
대규모 언어 모델(LLM)은 텍스트와 코드의 방대한 데이터 세트에 대해 사전 학습됩니다. 이를 통해 텍스트 생성, 번역, 질의응답 등 다양한 작업을 학습할 수 있습니다. 그러나 LLM은 파인튜닝(fine-tuning) 없이는 특정 작업에 적합하지 않은 경우가 많습니다.

파인튜닝(fine-tuning)은 특정 작업에 맞게 LLM의 파라미터를 조정하는 프로세스입니다. 이는 작업과 관련된 데이터 세트에 대한 모델 학습을 통해 수행됩니다. 필요한 파인튜닝(fine-tuning)의 양은 작업의 복잡성과 데이터 세트의 크기에 따라 다릅니다.LLM의 파인튜닝(fine-tuning)에는 비지도 및 지도의 두 가지 주요 유형이 있습니다.

🍎 비지도 파인튜닝(fine-tuning)
비지도 파인튜닝(fine-tuning)은 레이블이 포함되지 않은 데이터 데이터 세트에 대해 LLM을 학습시키는 기법입니다. 즉, 모델은 각 입력에 대해 올바른 출력이 무엇인지 알지 못합니다. 대신 모델은 시퀀스의 다음 토큰을 예측하거나 데이터 세트의 텍스트와 유사한 텍스트를 생성하는 방법을 학습합니다.

비지도 파인튜닝(fine-tuning)은 지도 파인튜닝(fine-tuning)보다 계산 비용이 적게 드는 파인튜닝(fine-tuning) 기법입니다. 그러나 동일한 수준의 성능을 달성할 가능성도 낮습니다.

🍎 지도 파인튜닝(fine-tuning)
지도 파인튜닝(fine-tuning)은 레이블이 포함된 데이터 데이터 세트에 대해 LLM을 학습시키는 기법입니다. 즉, 모델은 각 입력에 대해 올바른 출력이 무엇인지 알고 있습니다. 모델은 손실 함수를 최소화하여 입력을 출력에 매핑하는 방법을 학습합니다.

지도 파인튜닝(fine-tuning)은 비지도 파인튜닝(fine-tuning)보다 계산 비용이 더 많이 드는 파인튜닝(fine-tuning) 기법입니다. 그러나 최상의 성능을 얻을 가능성도 더 높습니다.

파인튜닝(fine-tuning) 기법의 선택은 수행하려는 특정 작업과 사용 가능한 리소스에 따라 달라집니다. 계산 리소스가 부족하다면 비지도 파인튜닝(fine-tuning)을 고려할 수 있습니다. 그러나 최상의 성능을 원한다면 LLM의 파인튜닝(fine-tuning)을 감독해야 합니다.

🍀 인간 피드백으로부터의 강화 학습(RLHF) LLM을 위한 파라미터 효율적 파인튜닝(fine-tuning)(PEFT)
LLM을 파인튜닝(fine-tuning)하는 데는 감독된 파인튜닝(fine-tuning)과 인간의 피드백을 통한 강화 학습(RLHF)이라는 두 가지 주요 접근 방식이 있습니다.

1. 감독형 파인튜닝(fine-tuning)
지도 파인튜닝(fine-tuning)은 레이블이 포함된 데이터 데이터 세트에 대해 LLM을 훈련시키는 기법입니다. 즉, 모델은 각 입력에 대해 올바른 출력이 무엇인지 알고 있습니다. 모델은 손실 함수를 최소화하여 입력을 출력에 매핑하는 방법을 학습합니다.

2. 인간 피드백을 통한 강화 학습(RLHF)
RLHF는 사람의 피드백을 사용하여 LLM을 파인튜닝(fine-tuning)하는 기법입니다. 기본 아이디어는 LLM에 프롬프트를 주고 출력을 생성하는 것입니다. 그런 다음 사람에게 출력에 대한 평가를 요청합니다. 이 평가는 더 높은 품질의 출력을 생성하기 위해 LLM을 파인튜닝(fine-tuning)하는 신호로 사용됩니다.

RLHF는 감독 파인튜닝(fine-tuning)보다 더 복잡하고 비용이 많이 드는 파인튜닝(fine-tuning) 기술입니다. 하지만 정의하기 어렵거나 라벨링된 데이터가 충분하지 않은 작업에 더 효과적일 수 있습니다.

🍀  매개변수 효율적 파인튜닝(fine-tuning)(PEFT)
PEFT는 파인튜닝(fine-tuning) 중에 업데이트해야 하는 매개변수의 수를 줄이기 위한 일련의 기술입니다. 이는 더 작은 데이터 집합을 사용하거나, 더 간단한 모델을 사용하거나, 낮은 순위 적응(LoRA)이라는 기술을 사용하여 수행할 수 있습니다.

LoRA는 저차원 행렬을 사용하여 다운스트림 작업의 공간을 표현하는 기법입니다. 그런 다음 전체 LLM 대신 이 행렬을 파인튜닝(fine-tuning)합니다. 이를 통해 파인튜닝(fine-tuning)에 필요한 계산량을 크게 줄일 수 있습니다.

PEFT는 LLM을 파인튜닝(fine-tuning)하는 데 유망한 접근 방식입니다. 파인튜닝(fine-tuning)을 더 저렴하고 효율적으로 수행할 수 있으므로 더 많은 사용자가 더 쉽게 접근할 수 있습니다.

🍀 LLM 파인튜닝(fine-tuning)을 사용하지 않는 경우
대규모 언어 모델(LLM)은 텍스트와 코드의 방대한 데이터 세트에 대해 사전 학습됩니다. 이를 통해 텍스트 생성, 번역, 질의응답 등 다양한 작업을 학습할 수 있습니다. 하지만 LLM을 파인튜닝(fine-tuning)하는 것이 항상 필요하거나 바람직한 것은 아닙니다.

다음은 LLM 파인튜닝(fine-tuning)을 사용하지 않는 몇 가지 경우입니다:

👉 모델을 파인튜닝(fine-tuning)할 수 없는 경우. 일부 LLM은 파인튜닝(fine-tuning)을 허용하지 않는 API(애플리케이션 프로그래밍 인터페이스)를 통해서만 사용할 수 있습니다.
👉 모델을 파인튜닝(fine-tuning)할 데이터가 충분하지 않습니다. LLM을 파인튜닝(fine-tuning)하려면 레이블이 지정된 대량의 데이터 세트가 필요합니다. 데이터가 충분하지 않으면 파인튜닝(fine-tuning)을 통해 좋은 결과를 얻지 못할 수 있습니다.
👉 데이터는 끊임없이 변화합니다. LLM을 사용하는 데이터가 지속적으로 변경되면 파인튜닝(fine-tuning)이 이를 따라잡지 못할 수 있습니다. 특히 원어의 어휘와 문법이 시간이 지남에 따라 변할 수 있는 기계 번역과 같은 작업의 경우 더욱 그렇습니다.
👉 애플리케이션은 동적이고 상황에 민감합니다. 경우에 따라 LLM의 출력은 사용자 또는 상황의 특정 컨텍스트에 맞게 조정되어야 합니다. 예를 들어 고객 서비스 애플리케이션에서 사용되는 챗봇은 고객의 의도를 파악하고 그에 따라 응답할 수 있어야 합니다. 이러한 유형의 애플리케이션에 맞게 LLM을 파인튜닝(fine-tuning)하려면 챗봇이 사용되는 다양한 컨텍스트를 캡처하는 레이블이 지정된 대규모 데이터 세트가 필요하기 때문에 어려울 수 있습니다.

이러한 경우에는 다음과 같은 다른 접근 방식을 사용하는 것을 고려할 수 있습니다:

👉 더 작고 덜 복잡한 모델 사용. 더 작은 모델은 훈련하고 파인튜닝(fine-tuning)하는 데 계산 비용이 덜 들며 일부 작업에는 충분할 수 있습니다.
👉 전이 학습 접근 방식 사용. 전이 학습은 다른 작업에 대해 학습된 모델을 사용하여 새 작업에 대한 모델을 초기화하는 기법입니다. 이 방법은 모델이 더 빨리 학습하는 데 도움이 될 수 있으므로 새 작업을 위해 모델을 훈련하는 데 더 효율적인 방법이 될 수 있습니다.
👉 인컨텍스트 학습 또는 검색 증강 사용. 컨텍스트 내 학습 또는 검색 증강은 추론 시간 동안 LLM에 컨텍스트를 제공하는 기법입니다. 이를 통해 LLM이 보다 정확하고 관련성 높은 결과를 생성하는 데 도움이 될 수 있습니다.

🍀  마무리
결론적으로, LLM을 파인튜닝(fine-tuning)하는 것은 이러한 모델을 특정 작업에 맞게 조정할 수 있는 강력한 도구입니다. 용도 변경 및 전체 파인튜닝(fine-tuning)을 포함하여 그 뉘앙스와 옵션을 이해하면 성능을 최적화하는 데 도움이 됩니다. 감독형 파인튜닝(fine-tuning)과 비감독형 파인튜닝(fine-tuning) 중 어떤 것을 선택할지는 리소스와 작업의 복잡성에 따라 달라집니다. 또한 인간 피드백을 통한 강화 학습(RLHF)과 매개변수 효율적 파인튜닝(fine-tuning)(PEFT)은 전문화된 접근 방식을 제공합니다. 파인튜닝(fine-tuning)은 LLM을 향상시키지만, 특히 모델이 이미 업무에 적합한 경우에는 항상 필요한 것은 아닙니다. 특정 애플리케이션에 대한 LLM의 효율성과 효과를 극대화하려면 파인튜닝(fine-tuning)을 사용할 시기를 신중하게 고려해야 합니다.

Data Science Dojo

LLM 파인튜닝(Fine-tuning) 101

Translate texts & full document files instantly. Accurate translations for individuals and Teams. Millions translate with DeepL every day.

DeepL Translate: The world's most accurate translator

🍀 LLMOps란 무엇인가요?
대규모 언어 모델 운영의 약자인 LLMOps는 프로덕션 환경 내에서 대규모 언어 모델을 운영 관리하기 위해 사용되는 일련의 관행, 기술 및 도구를 포괄합니다.

따라서 이러한 모델을 운영 워크플로우에 효과적으로 통합하기 위한 모범 사례를 수립해야 할 필요성이 커지고 있습니다. LLMOps는 대규모 언어 모델의 간소화된 배포, 지속적인 모니터링 및 지속적인 유지 관리를 용이하게 합니다. 기존의 머신 러닝 운영(MLOps)과 마찬가지로 LLMOps도 데이터 과학자, DevOps 엔지니어, IT 전문가가 참여하는 협업이 필요합니다. 

🍀 개발부터 프로덕션 워크플로우까지 LLM
대규모 언어 모델(LLM)은 개방형 질의응답, 요약, 거의 임의의 명령어 실행 등 광범위한 작업에서 이전 벤치마크를 크게 뛰어넘는 새로운 범주의 자연어 처리(NLP) 모델을 나타냅니다. MLOps의 운영 요구사항은 대부분 LLMOps에 적용되지만, LLM을 교육하고 배포하는 데는 LLMOps에 대한 고유한 접근 방식이 요구되는 고유한 과제가 있습니다.

🍀 LLMOps의 구성 요소는 무엇인가요?
머신러닝 프로젝트 내에서 LLMOps의 범위는 각 프로젝트의 특정 요구사항에 따라 매우 다양할 수 있습니다. 일부 프로젝트에서는 데이터 준비부터 파이프라인 생산에 이르는 작업을 아우르는 포괄적인 LLMOps 접근 방식이 필요할 수 있습니다.

1. 탐색적 데이터 분석(EDA)
🚩 데이터 수집: LLMOps의 첫 번째 단계는 LLM을 학습시키는 데 사용할 데이터를 수집하는 것입니다. 이 데이터는 텍스트 코퍼라, 코드 저장소, 소셜 미디어 등 다양한 소스에서 수집할 수 있습니다.
🚩 데이터 정리: 데이터를 수집한 후에는 학습을 위해 데이터를 정리하고 준비해야 합니다. 여기에는 오류 제거, 불일치 수정, 중복 데이터 제거 등이 포함됩니다.
🚩 데이터 탐색: 다음 단계는 데이터의 특성을 더 잘 이해하기 위해 데이터를 탐색하는 것입니다. 여기에는 데이터의 분포를 살펴보고, 이상값을 식별하고, 패턴을 찾는 것이 포함됩니다.

2. 데이터 준비 및 신속한 엔지니어링
🚩 데이터 준비: LLM을 학습시키는 데 사용되는 데이터는 특정한 방식으로 준비해야 합니다. 여기에는 데이터 토큰화, 중단어 제거, 텍스트 정규화 등이 포함됩니다.
🚩 프롬프트 엔지니어링: 프롬프트 엔지니어링은 LLM으로 텍스트를 생성하는 데 사용되는 프롬프트를 만드는 프로세스입니다. 프롬프트는 LLM이 원하는 출력을 생성할 수 있도록 신중하게 만들어야 합니다.

3. 모델 미세 조정
🚩 모델 학습: 데이터가 준비되면 LLM을 학습시킵니다. 이는 머신러닝 알고리즘을 사용하여 데이터의 패턴을 학습하는 방식으로 이루어집니다.
🚩 모델 평가: LLM이 학습되면 얼마나 잘 작동하는지 평가해야 합니다. 이 평가는 LLM을 학습시키는 데 사용되지 않은 테스트 데이터 세트를 사용하여 수행됩니다.
🚩 모델 미세 조정: LLM의 성능이 좋지 않은 경우 미세 조정할 수 있습니다. 여기에는 LLM의 파라미터를 조정하여 성능을 개선하는 작업이 포함됩니다.

4. 모델 검토 및 거버넌스
🚩 모델 검토: LLM을 미세 조정한 후에는 안전하고 신뢰할 수 있는지 검토해야 합니다. 여기에는 편향성, 안전 및 보안 위험 점검이 포함됩니다.
🚩 모델 거버넌스: 모델 거버넌스는 수명 주기 동안 LLM을 관리하는 프로세스입니다. 여기에는 성능을 추적하고, 필요에 따라 변경하고, 더 이상 필요하지 않은 경우 폐기하는 것이 포함됩니다.

5. 모델 추론 및 제공
🚩 모델 추론: LLM을 검토하고 승인하면 프로덕션에 배포할 수 있습니다. 즉, 텍스트를 생성하거나 질문에 답변하는 데 사용할 수 있습니다.
🚩 모델 제공: 모델 제공은 사용자가 LLM을 사용할 수 있도록 하는 프로세스입니다. 이는 REST API 또는 웹 애플리케이션과 같은 다양한 방법을 통해 수행할 수 있습니다.

6. 사람의 피드백을 통한 모델 모니터링
🚩 모델 모니터링: LLM이 배포되면 예상대로 작동하는지 확인하기 위해 모니터링해야 합니다. 여기에는 성능을 추적하고, 문제를 파악하고, 필요에 따라 변경하는 것이 포함됩니다.
🚩 사람의 피드백: 사람의 피드백을 통해 LLM의 성능을 개선할 수 있습니다. 이는 LLM이 생성하는 텍스트에 대한 피드백을 제공하거나 LLM의 성능에 문제가 있는지를 파악하는 방식으로 이루어질 수 있습니다.
 
🍀 LLMOps 구현 모범 사례
LLMOps는 데이터 준비부터 파이프라인 생산에 이르기까지 광범위한 작업을 다룹니다. 다음은 LLMOps를 성공적으로 도입하기 위한 7가지 핵심 단계입니다:

1. 데이터 관리 및 보안
데이터는 LLM 교육에서 중요한 구성 요소이므로 강력한 데이터 관리와 엄격한 보안 관행이 필수적입니다. 
🚩 데이터 저장: 대용량 데이터를 처리할 수 있는 적절한 소프트웨어 솔루션을 사용하여 전체 LLM 수명 주기 동안 효율적인 데이터 검색을 보장합니다.
🚩 데이터 버전 관리: 포괄적인 데이터 버전 관리 관행을 통해 데이터 변경 기록을 유지하고 개발을 모니터링합니다.
🚩 데이터 암호화 및 액세스 제어: 전송 암호화로 데이터를 보호하고 역할 기반 액세스와 같은 액세스 제어를 적용하여 안전한 데이터 처리를 보장합니다.
🚩 탐색적 데이터 분석(EDA): 머신 러닝 수명 주기에 맞춰 데이터를 지속적으로 준비하고 탐색하여 공유 가능한 시각화 및 재현 가능한 데이터 세트를 생성합니다.
🚩 프롬프트 엔지니어링: 신뢰할 수 있는 프롬프트를 개발하여 LLM에서 정확한 쿼리를 생성하고 효과적인 커뮤니케이션을 촉진합니다.
 
2. 모델 관리
LLMOps에서는 LLM 모델의 효율적인 교육, 평가 및 관리가 가장 중요합니다. 다음은 몇 가지 권장 사례입니다:
🚩 기초 모델 선택: 성능, 크기, 호환성 등의 요소를 고려하여 적절한 사전 학습된 모델을 커스터마이징의 시작점으로 선택합니다.
🚩 소수 샷 프롬프트: 소수 샷 학습을 활용하여 광범위한 학습 데이터 없이도 특수한 작업에 대한 모델 미세 조정을 신속하게 수행하여 대규모 언어 모델을 활용할 수 있는 다양하고 효율적인 접근 방식을 제공합니다.
🚩 모델 미세 조정: 기존 라이브러리와 미세 조정을 위한 기술을 사용하여 모델 성능을 최적화하고 특정 도메인에서 모델의 기능을 향상시킬 수 있습니다.
🚩 모델 추론 및 제공: 모델 새로 고침 주기를 관리하고 효율적인 추론 요청 시간을 보장하는 동시에 테스트 및 품질 보증 단계에서 프로덕션 관련 고려 사항을 해결합니다.
🚩 사람의 피드백을 통한 모델 모니터링: 모델 드리프트를 감지하고 잠재적인 악의적인 사용자 행동을 식별하기 위한 경고를 통합하는 강력한 데이터 및 모델 모니터링 파이프라인을 개발하세요.
🚩 모델 평가 및 벤치마킹: 모델 드리프트 및 잠재적인 악의적인 사용자 행동을 식별하기 위한 경고를 포함하여 포괄적인 데이터 및 모델 모니터링 파이프라인을 구축합니다. 이러한 사전 예방적 접근 방식은 모델 안정성과 보안을 강화합니다.

3. 배포
다음 팁을 통해 모델 성능과 접근성을 최적화하면서 원하는 환경에 원활하게 통합할 수 있습니다:
🚩 클라우드 기반 및 온프레미스 배포: 예산, 보안 및 인프라 요구 사항과 같은 고려 사항에 따라 적절한 배포 전략을 선택합니다.
🚩 특정 작업에 맞게 기존 모델 조정하기: 이 접근 방식은 비용 효율적이므로 사전 학습된 모델을 특정 업무에 맞게 조정합니다. 자연어 처리(NLP) 또는 딥 러닝 모델과 같은 다른 머신 러닝 모델을 사용자 지정하는 데에도 적용됩니다.

4. 모니터링 및 유지 관리
LLMOps는 시간이 지나도 지속적인 성능과 적응성을 보장합니다:
🚩 모델 성능 개선: 모델 및 파이프라인 계보와 버전에 대한 추적 메커니즘을 구축하여 수명 주기 전반에 걸쳐 아티팩트와 전환을 효율적으로 관리할 수 있습니다.
이러한 모범 사례를 구현함으로써 조직은 LLMOps 채택을 개선하고 운영 워크플로우에서 대규모 언어 모델의 이점을 극대화할 수 있습니다.

🍀 LLMOps가 필수적인 이유는 무엇인가요?
대규모 언어 모델(LLM)은 텍스트와 코드로 구성된 방대한 데이터 세트에 대해 학습되는 인공 지능(AI)의 한 유형입니다. 텍스트 생성, 번역, 질문 답변 등 다양한 작업에 사용할 수 있습니다. 하지만 LLM은 배포 및 관리가 복잡하고 까다롭기도 합니다. 이것이 바로 LLMOps가 필요한 이유입니다.

LLMOps는 LLM을 배포, 관리 및 모니터링하는 데 사용되는 일련의 관행과 도구입니다. 실험과 반복부터 배포 및 지속적인 개선에 이르기까지 전체 LLM 개발 수명 주기를 포괄합니다.

LLMOps는 여러 가지 이유로 필수적입니다. 
🚩 첫째, 일관되고 신뢰할 수 있는 방식으로 LLM을 배포하고 관리하는 데 도움이 됩니다. 이는 고객 서비스 챗봇이나 의료 진단 시스템과 같은 중요한 애플리케이션에서 LLM이 자주 사용되기 때문에 중요합니다.
🚩 둘째, LLMOps는 LLM의 성능을 개선하는 데 도움이 됩니다. LLM의 성능을 모니터링하여 개선할 수 있는 영역을 파악할 수 있습니다. 이는 LLM의 파라미터를 조정하거나 더 많은 학습 데이터를 제공함으로써 가능합니다.
🚩 셋째, LLMOps는 LLM과 관련된 위험을 완화하는 데 도움이 됩니다. LLM은 텍스트와 코드로 구성된 방대한 데이터 세트를 학습하는데, 이 데이터에는 유해하거나 편향된 정보가 포함될 수 있습니다. LLMOps는 LLM의 학습 데이터에서 이러한 정보를 식별하고 제거하는 데 도움을 줄 수 있습니다.

🍀 LLMOps의 장점은 무엇인가요?
🚩 효율성: LLMOps는 LLM 개발 및 배포의 효율성을 개선하는 데 도움이 될 수 있습니다. 이는 데이터 준비 및 모델 트레이닝과 같은 LLMOps와 관련된 많은 작업을 자동화함으로써 이루어집니다.
🚩 확장성: LLMOps는 LLM 개발 및 배포를 확장하는 데 도움이 될 수 있습니다. 이는 여러 LLM을 더 쉽게 관리하고 배포할 수 있도록 함으로써 이루어집니다.
🚩 위험 완화: LLMOps는 LLM과 관련된 위험을 완화하는 데 도움이 될 수 있습니다. 이는 LLM의 학습 데이터에서 유해하거나 편향된 정보를 식별하여 제거하고, LLM의 성능을 모니터링하여 잠재적인 문제를 식별함으로써 이루어집니다.

결론적으로 LLMOps는 대규모 언어 모델을 성공적으로 배포하고 관리하고자 하는 조직에게 매우 중요한 분야입니다. 여기에 설명된 모범 사례를 구현함으로써 조직은 일관되고 신뢰할 수 있는 방식으로 LLM을 배포 및 관리하고 이러한 강력한 모델의 이점을 극대화할 수 있습니다.

Deepl

LLMOps에 대한 이해: 이것이 중요한 이유와 2023년의 모범 사례

개발자 면접은 어떻게 진행될까? | 처음 이직 시도를 했을 때가 떠오릅니다. 별 근거도 없이 자신만만하던 4년 차 때, 평소 실력만 믿고 당당하게 기술 면접에 뛰어들었죠. 면접은 생각보다 훨씬 어려웠고, 결과는 처참했습니다. 식은땀을 삐질삐질 흘리며 겨우 첫 라이브 코딩 테스트를 마쳤던 기억은 쉽사리 잊히지 않습니다. 그렇게 직접 부딪혀 보고 나서야 깨달았어요.

개발자 면접 유형 총정리

개발자 면접을 준비하고 계신가요? 어디서부터 어떻게 시작해야 할지 몰라 막막하신 분들을 위해 개발자 면접 대비 키트를 준비했습니다! 제가 지금까지 썼던 개발자 면접 준비 관련 글과 추천 자료를 한 곳에 모았습니다. 적극 활용하셔서 면접에 잘 대비하시길 바랍니다! 

0️⃣  면접 유형 파악하기

- 개발자 면접 유형 총정리: https://careerly.co.kr/comments/66132

1️⃣ 코딩 면접

[추천 글]
- 코딩 테스트를 위해 꼭 공부해야 할 이론: https://careerly.co.kr/comments/66531
- 코딩 테스트에 완벽하게 대비하기 위해 해야 할 6가지: https://careerly.co.kr/comments/66559
- 라이브 코딩 테스트 실전 5단계 가이드: https://careerly.co.kr/comments/66693

[기출 문제 플랫폼]
국내
- 프로그래머스: https://school.programmers.co.kr/learn/challenges?tab=all_challenges
- 백준: https://www.acmicpc.net
- 삼성 SW Expert Academy: https://swexpertacademy.com/main/main.do

해외:
- LeetCode: https://leetcode.com/problemset/all
- HackerRank: https://www.hackerrank.com
- Codility: https://www.codility.com

2️⃣ 시스템 설계 면접

[추천 글]
- 소프트웨어 시스템 설계 시 고려할 세 가지: https://careerly.co.kr/comments/67065
- 시스템 설계 면접 준비 방법: https://careerly.co.kr/comments/67313

[추천 자료]
도서
- 데이터 중심 애플리케이션 설계 (원제: Designing Data-Intensive Applications): https://search.shopping.naver.com/book/catalog/32466573690
- 가상 면접 사례로 배우는 대규모 시스템 설계 기초 (원제: System Design Interview: An Insider's Guide): https://search.shopping.naver.com/book/catalog/32485737619

온라인 자료 (영문)
- Grokking the System Design Interview: https://designgurus.org/course/grokking-the-system-design-interview
- Deep Dive into System Design Interview: https://www.educative.io/path/deep-dive-into-system-design-interview
- The System Design Primer: https://github.com/donnemartin/system-design-primer

3️⃣ 인성 면접 / 행동 면접

[추천 글]
- 면접에서 효과적으로 경험 어필하는 법: https://careerly.co.kr/comments/67573

[추천 툴]
- 각 기업 문화 페이지
- STAR 기법

👩🏻‍💻 개발자 면접 대비 키트

복잡한 시스템을 익힐 때 아무리 서류를 여러 번 읽어보고 연구해 봐도 이해하는 데 시간이 꽤 걸릴 수도 있어요. 주니어시절 아키텍처를 이해하는 데 어려움을 많이 겪었던 것 같아요. 아키텍처를 이해하는 데 도움 되었던 방법 몇 가지 적어 봅니다.

1️⃣ 서류를 읽어보며 상위 설계 대충 이해해 보기

시스템 설계를 설명하는 서류나 학습 자료가 있다면 한 번 훑어보면서 대충 상위 레벨 아키텍처를 스스로 이해해 보려고 노력한다. 자료를 읽는다고 바로 이해되는 건 아니지만, 대충 큰 그림을 이해하고 코드를 읽어 보면 아키텍처를 이해하는 데 큰 도움이 된다.

서류가 없는 경우, 이 단계를 스킵하고 다음 단계부터 시작하면 된다.

2️⃣ 코드 읽어 보면서 시스템 설계 다이어그램 직접 그려 보기

스케일이 큰 시스템의 코드베이스는 굉장히 복잡하고 하나하나 꼼꼼하게 읽어 보면서 그릴 수 없다. 그렇지만 최대한 중요한 코드를 파악하고 컴포넌트가 어떤 역할을 하고 컴포넌트 간 어떤 상호 작용을 하는지 다이어그램을 그려 보며 스스로 설계해 본다. 다이어그램이 완벽하지 않아도 된다. 요점은 스스로 코드를 파해쳐 보며 설계해 보는 게 자료만 읽는 것보다 아키텍처를 이해하는 데 더 도움 된다.

이 방법은 마치 알고리즘 문제 풀기와 비슷하다. 기본적으로 알고리즘 개념을 책을 읽거나 유투브 강의를 보며 익힌 다음 직접 문제를 풀어 보면서 연습해야 '내 것'으로 만들 수 있다. 아키텍처도 비슷한 방식으로 접근하는데, 설계 경험 충분하지 않다면 실무에서 아키텍처를 익히려면 직접 그려보고 설계해 보는 게 가장 중요하다.

또한 이런식으로 아키텍처 다이어그램을 직접 그리면 설계 서류를 작성하고 설계 면접을 준비하는 데 도움 된다.

3️⃣ 선임에게 다이어그램 보여 주며 설명해 보기

스스로 그려 본 다이어그램을 관련 아키텍처를 잘 아는 선임에게 보여 주며 스스로 익힌 점을 설명해 보자. 틀려도 괜찮다. 요점은 시스템을 잘 아는 선임에게 내가 이해한 시스템을 설명하고 선임이 틀린 점을 바로 알려주면서 내가 모르는 점을 알게 되고 틀린 점을 바로 고칠 수 있다. 

예를 들어, 주니어 시절 선임이 '학습 세션(learning session)'을 통해 다이어어그램을 그리며 신입사원에게 아키텍처를 설명해 줬는데, 세션이 끝나도 그 시스템을 이해하지 못했다. 물론 어느 정도 상위 수준의 아키텍처를 이해할 수 있었지만, 정보를 흡수만 하는 게 시스템을 익히는 데 큰 도움이 되지 않았다. 

어렵더라도 내가 스스로 익혀보고 설계를 해보면서 선임에게 반대로 알려 주면서 상호적인 학습 세션을 통해 배우면 개념을 훨씬 빠르고 깊게 익힐 수 있었던 것 같다.

4️⃣ 팀원에게 다이어그램 그리며 시스템 설명해 보기

'가르치면서 배운다'는 걸 느낀 적이 있는데, 아키텍처를 가르쳐 주면서 팀원들이 모르는 점을 물어본다. 모든 질문에 대답할 수도 있고 없을 수도 있지만, 없어도 괜찮다. 내가 알지 못한 점을 다른 사람의 질문을 통해 알 수 있고, 스스로 공부했을 때 그냥 지나쳤을 수도 있는 아키텍처의 디테일한 점을 익힐 수 있다. 종종 생각지도 못한 질문을 받고 그 질문에 관한 답변을 찾으면서 스스로 공부했을 때 보다 더 많은 양의 정보를 흡수할 수 있다.

5️⃣ 상호작용하는 학습 세션 만들기

스텝3과 스텝4를 할 수 없는 상황이라면 팀원끼리 모여 함께 다이어그램을 그리며 설계를 설명해 보는 건 어떨까? 같이 배우면 혼자 배우는 것보다 더 많은 양의 정보를 흡수할 수 있다.

🪴 함께 읽으면 좋은 글

라지 스케일 시스템을 구현하는 개발자가 아는 것
https://careerly.co.kr/comments/90638

개발자가 꼭 봐야 할 책 - 데이터 중심 애플리케이션 설계
https://careerly.co.kr/comments/67004

초당 1억 건의 요청 S3 스케일의 스토리지 구축, 운영, 관리
https://careerly.co.kr/comments/88808

복잡한 시스템 빨리 이해하는 법

머신러닝 입문자 혹은 스터디를 준비하시는 분들에게 도움이 되고자 만든 repository입니다. (This repository is intented for helping whom are interested in machine learning study) - GitHub - teddylee777/machine-learning: 머신러닝 입문자 혹은 스터디를 준비하시는 분들에게 도움이 되고자 만든 repository입니다. (This repository i

GitHub - teddylee777/machine-learning: 머신러닝 입문자 혹은 스터디를 준비하시는 분들에게 도움이 되고자 만든 repository입니다. (This repository is intented for helping whom are interested in machine learning study)

엄청난 repo를 발견해버렸습니다...
유튜브 테디노트 채널의 repo인데요!

머신러닝에 관련된 모든 카테고리의 강의를 정리했을 뿐 아니라
책, 유튜브 채널, 웹사이트까지 모두 소개하고 자격증까지 소개하고 있네요...

잠 안오면 이거 하나씩 깨부셔야겠어요!

https://github.com/teddylee777/machine-learning#%ED%86%B5%EA%B3%84-statistics

GitHub

머신러닝을 혼자서 처음부터 공부한다면...!

TypingMind, Xnapper, BlackMagic, DevUtils의 개발자 Tony Dinh이 회사를 퇴사하고 3년만에 월 수익 5,500만 원을 버는 Indie Hacker가 된 과정과 제품 성공 이야기를 전합니다.

🗞️ 베트남 개발자가 사이드 프로젝트로 월 5천만원 벌게 된 이야기

안녕하세요 :) 
오늘은 베트남에서 혼자 2일만에 개발한 ChatGPT 껍데기 서비스로 월 4,000만원 버는 Tony Dinh 이야기를 준비했습니다.

Tony는 7년간 개발자로 일하다 사이드 프로젝트를 위해 퇴사한 후, 단 3년 만에 베트남 월 평균 임금의 166배를 벌고 있습니다. 어떻게 가능했을까요? 그의 지난 3년을 핵심만 정리해서 이 글👇에 담았습니다. 

전체 내용 보기 ➡️ https://www.sidehustlerstory.com/p/tony-dinh/?ref=careerly.co.kr

👇 전체 목차입니다. 내용 이해에 이미지가 필요한 부분이 많아서 이 글에는 목차만 공유합니다.

📌 시작: 사이드 프로젝트 for 재미+취업 😆💼
📌 선 퇴사 😎, 후 개발 👨‍💻
📌 Tony의 연봉 히스토리 💸
📌 풀스택 개발자의 풀스택 제품 라인업 🤹
📌 첫 성공: DevUtils 🛠️
📌 Cool & Free 제품으로 바이럴 타기: BlackMagic 🎩
📌 BlackMagic을 1억 7천만원에 팔 수 밖에 없었던 드라마 🎬
📌 2022년에 스크린샷 앱을 만든다고? Xnapper 📸
📌 ChatGPT 껍데기로 매 달 4천만원 벌기: TypingMind 🧠
🎁 60일 만에 월 수익을 7배 증가시킨 베타 테스팅 전략 ($300 → $2,164) 📈
🎁 구매 취소율 80% 위기를 극복한 방법 🏋️‍♂️
🎁 BlackMagic 인수 제안(7억 원)을 거절한 뒷 이야기와 이 과정에서 배운 것들 👋
🎁 5번이나 프로덕트 헌트 1위 등극한 Tony의 런칭 전략 🥇
🎁 Tony가 제품 개발에 활용한 기술 스택 🛠️

전체 내용 보기 ➡️ https://www.sidehustlerstory.com/p/tony-dinh/?ref=careerly.co.kr

사이드허슬러스토리

ChatGPT 껍데기로 월 4천만원 버는 베트남 개발자 이야기

The Product-Minded Software Engineer by Gergely...

제품 중심 개발자 되기

바로 제품중심으로 생각할 줄 아는 개발자이다. (Product-Minded Software Engineer) 
"나쁜 엔지니어들은 기술에만 너무 집중합니다. 훌륭한 Product Engineer들은 사랑 받는 제품을 만들기 위해 제품 개발 과정에서 적절한 깊이로 고민 해야 한다는 사실을 압니다." 
Shopify의 head of engineering인 Jean-Michel Lemieux은 Product Engineer를 위와 같이 정의했다.

나는 기획이라는 업을 한 지 약 7~8년차가 되었고, 프리랜서/인하우스 둘 다 경험해 보았을 때
다양한 스타일의 개발자들을 만나왔다. 사람의 성격이나 성향, 기질은 둘째 치고 
함께 일할 때 즐거움을 주었던 분들의 특징은  바로 제품에 대해 "생각"이라는걸 할 줄 안다는 것이었다. 

내 경험이다만, 일단 제품 중심 개발자는 질문하는 것도 행동하는 것도 달랐다. 

1. 이 기능이 왜 필요한지 정확히 이해하기 위해 많은 질문을 던진다.
2. 이를 테스트하고 수정된 사양에 포함된 일부 제안을 가져온다.
3. 빠르게 기능을 구축하고 피드백을 얻는다.
4. 기능을 출시한 후에도 예상과 일치하는지 계속해서 확인한다.
5. 예상과 달랐을 때, 결과를 깊이 파고들어 실제 세계에서의 제품 사용에 대해 새로운 것을 배운다.

(주니어~미들이지만 위 1번부터 5번 모두 해당하는 Frontend 개발자 분이 계셨다. 그 사람의 개발 실력이 어떻든 간에 만약 내가 창업을 한다면, 가장 먼저 영입 하고 싶은 분이기도 하다.)

반면 "기획서 나오면 검토할게요". "안됩니다." "6개월 이상 걸립니다." "기능정의서 먼저 주세요." "화면 보고 얘기하시죠." "그때 자세히 못봤는데 지금 보니 이거 못합니다." 라는 대답만 나오는 개발자와는 그닥 즐겁게 일하지는 못했던 것 같다.  

제품 중심으로 생각할 줄 아는 개발자는 각 프로젝트 이후, 제품 이해력이 깊어지고 더 나은 제품 직감력을 발휘 하기 시작한다. 길가에 그냥 지나쳤던 나무가 플라타너스 나무로 보이듯이, 감각이 생기면 문제 해결도 빨라지고 수월해지는 것이다. 이 과정에서 제품 중심 개발자는 더 많은 커리어 성장 기회를 얻는다.

📌 제품 중심 개발자가 되기 위한 팁
사용자가 있는 제품을 개발하고 있다면, 제품 중심 마인드를 키우는 데 도움이 되는 몇 가지 팁이 있다. 이러한 팁은 제품 중심 개발자로 성장하는 데 효과적인 것으로 보인다.
(아티클 원문에서 내가 깊게 공감하는 것만 뽑아 봤다. 약간 수정포함)

1. 회사의 존재 이유를 이해하기. 
비즈니스 모델은 무엇인가? 어떻게 수익을 창출하나? 어떤 부분이 가장 이윤이 많으며 어떤 부분이 가장 확장되고 있나? 왜 그럴까?

2. PM과 좋은 관계를 구축하기. 
대부분의 PM은 개발자를 멘토링할 기회에 기뻐한다. (말걸어주면 기쁘다.)
개발자들이 제품에 관심을 가지면 자신의 역량을 확장할 수 있다. 물론 제품 관련 질문을 많이 하기 전에 좋은 관계를 구축하고, PM에게 제품에 더 많이 관여하고 싶다고 분명히 전하는 것이 좋다.

3. 타당한 제안 제시하기. 
비즈니스, 제품 및 이해관계자에 대한 좋은 이해를 갖게 된 후에는 제품 개발에 대한 이니셔티브를 가져갈 수 있다. 

4. PM(기획자)에게 피드백 자주 요청하기. 
훌륭한 제품 중심 개발자가 되기 위해서는 기존의 엔지니어링 기술에 더해 제품 기술을 개발해야 한다. 제품 기술에 대한 당신의 성과를 어떻게 평가하는지 가장 잘 아는 사람은 PM(기획자)이다. 제품 제안이 얼마나 가치 있는지에 대한 피드백을 얻고, 추가 성장을 위한 아이디어를 얻기 위해 PM에게 연락한다.

물론 저런 것이 적성에 맞지 않고 도저히 힘든 사람들도 있기에 이 세상 모든 개발자에게 강요할 수는 없을 것이다. 어디까지나 내가 맞는 직군, 내게 맞는 회사나 조직, 프로젝트에 맞춰서 일하면 될 것이다. 내 의견이 반영 되는 것이나 주도적으로 일하는 것이 버거운 사람도 있는 것일테니 말이다. (그렇다면 프리랜서나 SI/SM을 추천한다. 불안정하지만, 오히려 월 단가는 훨씬 더 높다.)

커리어를 건강하게, 차곡차곡 쌓아 올라가고 싶은 사람에게는 제품개발 사고능력이 필수라고 본다. 나는 그런 개발자와 함께 일하고 싶다. 

원문: https://eopla.net/magazines/6578

"유튜브는 원래 데이팅 어플이었다?" 스타트업 피봇 사례 39가지

PM(기획자)인 내가 함께 일하기 좋아하는 개발자는

안녕하세요, 뱅크샐러드 코어 백엔드 팀의 정겨울입니다. 뱅크샐러드는 백엔드 서비스에 다양한 언어를 사용하고 있습니다. 특히 지난 4년간은 Go와 gRPC...

뱅크샐러드 Go 코딩 컨벤션 | 뱅크샐러드

뱅크샐러드는 백엔드 서버 언어로 Go 를 가장 활발하게 사용하고 있습니다. 일관성 있는 서비스 코드 베이스를 만들기 위한 노력으로 코딩 컨벤션을 잘 정리해두고 있는데요, 이번에 회사 블로그 글로 포스트되어서 공유합니다. 

Go에 관심이 있으시다면 읽어보시면 좋을 것 같아요.

> 시간이 흐르고, 조직의 규모가 변하며, 구성원이 바뀔수록 코드 일관성 그 이상으로 여러 코드 베이스의 개념적 일관성을 유지하기 위한 노력이 필요합니다. 이 글에선 주로 코드 일관성 측면에서 뱅크샐러드가 어떤 Go 코딩 컨벤션을 따르며 권장하는지 얘기해보고자 합니다.

https://blog.banksalad.com/tech/go-best-practice-in-banksalad/

Banksalad

뱅크샐러드의 Go 언어 코딩 컨벤션

Developers and Open Source authors now have a massive amount of services offering free tiers, but it can be hard to find them all to make informed decisions.

Free for Developers

사이드 프로젝트! 생각만 해도 가슴이 뛰는 분들 많으실텐데요! 가슴이 뛰는 이유로는..... 프로젝트 진행의 즐거움과 유저들과의 만남도 있겠지만... !! 개인적으로는 비용에 대한 부담이 큰 것 같아요. 

사이드 프로젝트인만큼 투자할 수 있는 시간과 에너지가 한정되어있는데, 그러자니 SaaS, PaaS를 찾아보게 되고, 그만큼 비용이 늘어날 수 밖에 없는데요. 

사이드 프로젝트는 하고 싶지만 비용은 줄이고 싶어! 하시는 분들을 위한 서비스들을 모아놓은 곳이 있어 공유합니다. 

클라우드, 이벤트 통계, API, BaaS, CI/CD, 디자인 등등 다양한 부분의 무료 서비스들을 한번에 찾아볼 수 있습니다! 

https://free-for.dev

Free-for

사이드 프로젝트를 위한 무료 서비스들

Airbnb를 실패의 위기에서 구한 방법과 디자이너를 향한 그의 조언

브라이언 체스키가 Airbnb에서 PM을 없애버린 이유

"A/B 테스트를 그만두고 스스로 만족할 때까지 프로덕트를 다듬고, 자랑스럽다 말할 수준이 되면 다른 사람에게 공개하라"

여러모로 굉장히 흥미롭네요. 에어비앤비 CEO 브라이언 체스키가 디자인 중심의 경영을 선언하고 PM 롤을 없앴군요? 

체스키는 회사가 커질수록 서비스의 변화가 줄어들고 비용만 증가하는 문제를 두고 고민하다가 CEO가 제품 개발에 깊이 참여하는 애플의 경영 방식을 따르기로 했다고 합니다(feat. 조너선 아이브). 이게 '디자인 중심의 경영'이라고 선언한 방식의 요지이고, 하위 부서들의 로드맵 폐지하고 본인이 직접 컨트롤 가능한 소수의 핵심 사업만 추진한다네요.

그럼 PM은 어떻게 됐냐. 기존 조직을 기능 조직(디자인, 개발, 마케팅)으로 나누고 PM직무는 기존 직무와 마케팅 직무를 결합하여 ‘프로덕트 마케터’로 이름을 바꾼 뒤 디자이너의 권한을 강화했다고 합니다. 

'PM은 쓸모 없고 디자이너가 짱이야!' 했다기보단 제품을 만들어갈 때 역할과 균형을 꽤 크게 조율했다고 보는 게 맞을 거 같은데요.. 근데 왜 때문에 저러는지 알 거 같기도 합니다.

연중 80%의 업데이트는 상반기/하반기 나누어 2번만 크게 진행하고, A/B테스트는 꼭 필요한 경우에만 진행하는 걸로(A/B테스트 맛집이었는데 서운..) 정하면서 문제와 제품을 깊이 들여다볼 시간을 만들었고 체스키 스스로도 기업 경영보다는 제품에 시간을 쏟는 중이라고 합니다.

재밌네요! 흥미진진. 
저런 환경은 어떨지.. 한 번 경험해 보고 싶습니다.

차우진의 TMI.FM

🚫PM을 없앤 에어비앤비

오늘 영상의 주인공은 고위드 김항기 대표님입니다. 김항기 대표님의 이력은 독특하다는 표현으로는 부족할 정도인데요. 그는 대우증권 지점영업직으로 시작해 법인영업, 애널리스트, 펀드매니저를 거쳐 자산운용사를 설립하는 등 금융인으로서 가능한 모든 커리어를 섭렵하며 최고의 자리에 올랐습니다. 하지만 4년 전부터는 스타트업을 비롯한 혁신 기업에게 혁신적인 금융을 제공한다는 비전을 주창하며 고위드의 대표를 맡았는데요.

영업사원에서 대표가 되기까지, 20년 차 투자자의 인생 철학 | 고위드 김항기

1. “질문이 모호한 것은 (진짜) 문제가 뭔지 모른다는 뜻이고, (뭐가 정말 문제인지 모르니까) 불안해서 그 불안함을 해결하려고 그냥 주위를 찾아다니는 거예요. (나도 모르는 내 문제를 누군가가 해결해주길 바라면서 말이죠)”

2. “(근데) 이 패턴을 가지고 있으면 문제 해결이 (절대) 안 돼요"

3. “(이건) 선배님이 저한테 알려주신 거예요. 제가 어느 날 가서 무슨 질문을 했더니 저한테 이렇게 말하시더라고요. “네 불안에 내 시간 쓸 생각 없어. 끝까지 실행해봐, 그러면 질문이 구체적으로 변할 거야. 그래도 해결 안 되면 그때 찾아와"라고”

4. “불안할 때 한 가지 일을 더 실행해보고, 더 실행해보고, 더 실행해보는 것들, 그런 것들을 통해서 저도 굉장히 많이 배웠고, 그래서 제 인생의 슬로건에는 이런 게 있긴 해요. ‘까리하면 제일 어려운 길로’”

5. “최소한 그렇게 살면 (쉽게) 죽진 않거든요. 그러니까 ‘헷갈리면 아 몰라 제일 어려운 길로 가’, 그러면 진짜 죽지는 않아요. 근데 (금융 시장에서 오래 있으면서) 헷갈릴 때 쉬운 길을 택해 버릇하면 반드시 죽는다는 건 제가 알고 있어요"

6. “(그러니) 정말 힘드시더라도, 장기적으로 옳은 길을 택하시는 게 가장 빠른 길이다(라는 걸), 많은 선배 경영자들과 훌륭한 경영인들의 책을 보고 느끼시고, 어떤 방향이 장기적으로 성장할 수 있는 길인지 한 번 생각해보시면 어떨까라는 생각을 가지고 있습니다"

- 고위드 김항기 대표

https://www.youtube.com/watch?v=guETTiacPnE&t=902s

YouTube

’질문이 모호하다’는 건

01. 며칠 전 절친한 분의 의뢰로 네이밍 작업을 하나 하게 되었습니다. 브랜딩 일을 한다고 하면 자주 받는 의뢰 중의 하나인데, 가장 좋아하는 일이기도 하지만 동시에 가장 어렵다고 생각하는 일이 바로 이름 짓기, 이 네이밍입니다. 

02. 네이밍이 어려운 이유는 결과론적 시각이 가장 크게 작용하는 부분이기 때문입니다. 누구나 아는 위대한 제품이나 서비스, 브랜드로 성장한 다음에야 '저 브랜드는 이름부터 근사해'라는 평을 듣게 되지만, 사실 그 이름을 처음 들이밀었을 때는 반신반의하거나 '이게 뭐냐'는 식의 반응을 보인 사람들이 훨씬 많을 거거든요. 
하물며 큰 성공을 거둔 뒤에도 '솔직히 이름이 뭐 얼마나 대단한 역할을 했냐. 성공하고 나니까 좋아 보이는 거지'라는 내부의 비판을 들을 때도 있습니다. 

03. 동의가 되는 부분도 있고 아닌 부분도 있지만 오늘 하고 싶은 이야기는 네이밍의 역할에 관한 것은 아닙니다. 오히려 좋은 이름을 짓기 위해서는 (그 수많은 핍박과 의심과 결과론적 시각의 집중포화를 맞음에도 불구하고) 어떤 노력과 관심을 기울여야 하는지 현실적인 방법들에 대한 이야기가 될 것 같네요. 

04. 네이밍에 정답이 없다는 사실은 누구나 다 알고 계실 겁니다. 어쩔 땐 저도 수십 개에 해당하는 리스트를 만들어 가슴에 품고 다니면서도 맘에 드는 녀석이 하나 없어 끙끙 않을 때가 많거든요. 이번에 지인이 의뢰하신 네이밍도 마찬가지였습니다. 개인적으로는 비업무의 영역이지만 또 그분에게는 나름의 중요한 의미가 있는 프로젝트이니 대충 할 수도 없는 노릇이죠. 때문에 요 며칠간은 매일 아침마다 몇 개의 단어를 입으로 발음해 보고 운전하고 지나가다 눈에 밟히는 간판 위에 그 단어를 얹어보기도 하고, 만나는 사람에게 '이런 유형의 발음이 어떻게 들리시나요?' 같은 질문들을 해대며 살았던 것 같습니다. 

05. 그런 노력들 속에서 이번에도 깨달은 것 한 가지는 네이밍이라는 분야야말로 지나치게 깊이 파고들어갈 것이 아니라 끊임없이 지우고, 버리고, 비우고를 반복하며 먼 시각에서 흐린 눈(?)으로 바라봐야 한다는 것이었습니다.
이게 무슨 말인고 하면, 네이밍을 일반적인 기획이나 브랜딩처럼 기존의 지식과 정보 위로 쌓고 또 쌓아가며 다듬는 방법을 택하면 오히려 역효과가 날 수 있다는 의미입니다. 

06. 그래픽 디자이너로 시작해 90~2000년대 전 세계 기업의 로고를 수도 없이 많이 디자인 한 폴 랜드(Paul Rand)라는 인물을 아실 겁니다. 그런 폴 랜드가 남긴 유명한 어록이 하나 있죠. 
'좋은 이름을 만나면 로고 작업의 절반은 이미 끝나 있는 것과 마찬가지다. 좋은 이름은 탄생과 동시에 사람들의 일상 속으로 깊숙이 파고들어 그 자체로 브랜드가 되기 때문이다. 간결하지만 명확한 이름을 만나면 로고는 10초 만에도 그린다.'

07. 그래서 저는 네이밍을 할 때 나름의 원칙들이 몇 가지 있습니다. (물론 이 원칙은 자주 깨지기도 하지만요... 일단 저 스스로를 다독이는 무기인 셈이죠.)

첫째, 발음 자체가 되도록 간결하고 쉬울 것 
둘째, 의미 파악을 위한 depth가 깊지 않을 것 
셋째, 유행의 흐름을 되도록 덜 타게 할 것 
넷째, 다른 이름과 헷갈리게 만들지 않을 것 
다섯째, 후발주자라는 인식을 절대 심어주지 말 것 

08. 이렇게 보면 사실 위 다섯 가지 원칙은 하나의 문장으로 정리가 되는 것 같습니다.
바로 '쉽고 간결하되 누군가를 의식해서 만든 것처럼 보이지 않아야 한다'라고 말이죠. 그리고 저는 이것이야말로 네이밍이자 브랜딩을 하는 가장 본질적인 노력이라고도 생각합니다. '우리다움을 가장 명확하게 드러내되, 그것이 유일하고 특별하고 소중하게 하는 것'이 바로 브랜드를 만드는 첫 번째 이유가 될 테니 말이죠. 

09. 그래서 혹시라도 업무를 하시는 중에 네이밍을 해야 할 일이 있다면 그저 필 꽂히는 느낌대로 여러 단어를 조합해 볼 게 아니라 방망이 깎는 노인처럼 마치 그 브랜드가 그 이름으로 런칭했다고 가정하고 계속해서 가상현실에 접목해 보는 노력을 하는 게 중요합니다. 그러면서 불필요한 것을 덜어내고 더 명확하게 드러낼 수 있는 게 없을지 하나씩 체크하는 게 좋은 이름을 만드는 진정 어린 노력이 아닐까 싶거든요. 

10. 네이밍 업무를 할 때면 수명이 몇 년씩은 단축되는 듯한 느낌이지만, 좋은 이름 하나를 만들고 나면 그 뿌듯함과 벅참은 다른 무엇보다도 오래 보존됩니다. 누군가는 이름을 짓는다는 그 무게감이 버거워 굳이 맡으려고 하지 않을 때도 많지만 개인적으로는 한 번쯤 과감히 도전해 봐도 좋은 영역이라고 생각합니다. 다른 존재에게 이름을 부여한다는 행위는 기존에 우리가 하던 일과는 또 전혀 다른 책임감과 사명감을 안겨다 주기 때문이죠. 그래서 저는 이름을 짓는 일을 참 애정하고 더 잘하고 싶은가 봅니다.

이름을 짓는다는 것 : '네이밍'을 위한 현실적인 고민과 노력

(직장인 하이퍼리얼리즘 웹소설) 어쩌다 팀장이 되어버렸다

정말 디테일! 웹툰 내지는 웹드라마를 보는 늑낌이네요.

Publy

한국 최초 메타버스 결혼식 진행자

글쓰는개미핥기

사용자가 좀 더 쉽게 서비스를 이용하도록 돕는 UX Writer 🤗

🎁 나는 내가 만난 사람들의 총체다.
🙄 '非주류의 Be주류'를 외쳤던 인간

💬 커피챗 언제든지 환영이에요!
✔ UX Writer 성장 클럽장💪
#UXWriter #UXWriting #UX라이팅

Evaluate UX of various categories of VR experiences with global members

UX Researcher (시간제)

Adjunct Lecturer, Extended Reality 101 (Class), Information Science and Culture (Class Topics below)
 . Discussion of new media + digital transformation (ref. Ready Player One, Social Dilemma)
 . AR/VR production in the media industry 
 . UX design process for immersive media/services (Technical structure of a Digital Service)
 . User-centered AR/VR storytelling
 . Immersive tech trends and challenges
 . Spark AR Studio + Unity3D workshops

Adjunct Lecturer (시간제)

ISDN adaptor firmware test
ADSL modem development

Hardware Engineer

As an accepted VR enthusiast, I made progress of my thesis project with Oculus' supporting. 
I am still improving my concept and experimenting several technological stuffs: WebVR(A-frame/Three.js), LEAP motion input and Unity3D included C# scripting.

Oculus Launchpad Fellow Member

AR/VR Director
2009년 3월 - 2014년 8월
• Produce and direct augmented and virtual realistic news video composition
 - Winning best program award in company (Innovative digital workflow for live broadcasting: directing AR News Video Production)
 - Sync virtual camera in Viz Virtual Set with robotic/crane CAMs in real-time
• Producing three or four VR/AR video scenes for daily prime-time news program
 - Producing animation sequences from 3D modeling scene (collaboration with high-skilled 3D modelers)
• Introduction of interactive device and system with AR broadcast system
 - 70-inch wide touchscreen, iPad (VizAnchor) interaction

Audio Director (OB Van) / Motion Graphic Production
2008년 3월 - 2009년 3월

Audio EngineerAudio Engineer
2004년 9월 - 2008년 2월

VCR Engineer (Master Control Room)
2002년 2월 - 2004년 8월

VR/AR Director

- Contribute to the overall vision and user strategy for AR apps or products
- Concept development, concept-driven UX design process
- Design 2D/3D materials (Digital imaging, Motion graphics, Proof of concept, and so on)
- Design and produce overall visual resources for AR product developing and demo build

UX design Intern

- Advanced Unity3D skill learning and practices for thesis project
- Data visualization in Unity VR scene (social media database access)

Tech Intern

Director of Post Production

- Directing agile UX/UI design process 
- Research emerging tech trends for digital service
- UX/UI design new media service strategy: Immersive experiences (VR/AR/MR/XR)
- Projects (during the total renewal of digital service) 
 . UX/UI redesign (PC/mobile web)
 . Mobile app UX/UI redesign (myK/Kong)
 . UI/UX design for about a thousand TV/Radio drama/shows websites and site builder admin.

Lead UX Designer

전기제어공학

Web Design & New Media

ageek.ss

링크드인

서울대 정보문화학 XR101 겸임강사
AR/VR/MR/XR 분야의 Interaction design, 
Immersive storytelling 에 주목하는 공대출신 디자이너

#UX디자인 #기획자 #디자이너 #크리에이터 
#AR#VR#XR#MR #prototyping

댓글 0