Enhance your TDD experience! AutoParams is a versatile test data generator designed for parameterized tests in Java and Kotlin, drawing inspiration from AutoFixture. - GitHub - AutoParams/AutoParams: Enhance your TDD experience! AutoParams is a versatile 

GitHub - AutoParams/AutoParams: Enhance your TDD experience! AutoParams is a versatile test data generator designed for parameterized tests in Java and Kotlin, drawing inspiration from AutoFixture.

AutoParams에 Kotlin 지원 모듈을 추가했습니다. 첫번째 기능으로 모든 매개변수에 기본 인자가 지정된 data class에 임의의 인자가 적용됩니다.

https://github.com/AutoParams/AutoParams#autoparams-kotlin

GitHub

AutoParams Kotlin 지원

🔥강의에 사용한 실습파일 다운로드 https://www.oppadu.com/%ec%97%91%ec%85%80-%ed%8c%8c%ec%9d%b4%ec%8d%ac-%ec%97%85%eb%8d%b0%ec%9d%b4%ed%8a%b8/ (자세한 설명을 위한 홈페이지 게시글을 열심히 작성하고 있습니다. 잠시만 기다려주세요!) 🚀M365 베타채널 신청 방법 https://www.oppadu.com/office-참가자-오피스-insider-신청/ - 엑셀 Pyth

엑셀 x 파이썬 공식 업데이트 소식! | 기초부터 활용까지, 20분 핵심 정리🔥

엑셀 많이 사용하시나요? 저는 간단한 데이터 정리가 필요할 때는 엑셀이나 구글 스프레드시트를 종종 사용하는데요. 

개발자가 무슨 그런걸 쓰냐…! 라기엔 편의성이 너무 좋아서 잘 쓰고 있습니다. 시트로 만들어두면 공유도 쉽구요. 

그리고 이제 MS365 베타 버전에 파이썬 언어로 엑셀 데이터를 다루는 기능이 추가됐습니다. 파이썬을 사용할 수 있게 한다는 프로젝트 얘기는 예전에 들었던 것 같은데, 긴 개발 단계를 거쳐 이제 출시하나 봅니다. 

이제 엑셀을 더 강력하게 사용할 수 있겠네요. 구글도 스프레드시트에 파이썬 추가해주려나요? ㅎ

아래 영상에서 장단점과 사용법에 대해서 잘 설명해주고 있습니다. 
https://youtu.be/YCnJeB6IJJE?si=BsKacq_gnr5SlyB5

YouTube

Excel에서 Python으로 데이터 다루기

Kafka Cluster 🌐: Kafka 시스템의 전체 집합을 나타내며, 여러 개의 브로커와 주키퍼로 구성됩니다. 클러스터는 분산 환경에서 데이터 스트리밍을 처리하고 관리합니다.

Kafka Broker 🖥️: Kafka 클러스터 내의 서버로서, 데이터 메시지를 저장하고 전송합니다. 여러 브로커가 함께 작동하여 확장성과 장애 복구 기능을 제공합니다.

Kafka Producer 📤: 데이터를 생성하고 Kafka 브로커에게 전송합니다. 프로듀서는 특정 토픽에 대해 데이터를 퍼블리시합니다.

Kafka Consumer 📥: Kafka 브로커로부터 데이터를 읽어와 처리합니다. 컨슈머는 특정 토픽에서 데이터를 구독합니다.

Kafka Topic 📊: 데이터의 카테고리 또는 채널을 나타냅니다. 프로듀서는 토픽에 데이터를 퍼블리시하며, 컨슈머는 토픽을 구독합니다.

Kafka Partitions 🔀: 토픽을 물리적으로 세분화하며, 병렬 처리를 가능하게 합니다. 각 파티션은 순서를 유지하는 독립된 메시지 시퀀스를 가집니다.

Kafka Offsets 🔢: 파티션 내에서 각 메시지의 유일한 ID입니다. 오프셋을 통해 컨슈머는 어디까지 메시지를 읽었는지 추적할 수 있습니다.
 
Kafka Consumer Group 👥: 같은 토픽을 구독하는 컨슈머들의 그룹입니다. 컨슈머 그룹을 통해 데이터 처리를 분산하고 확장할 수 있으며, 특정 메시지가 그룹 내의 한 컨슈머에 의해만 처리되도록 보장합니다.

카프카 기본 개념들

맛보기는 끝...'유료 생성AI' 속속 등장, 아마존, 음성비서 서비스 공개 알렉사에 탑재...추가비용 내야 오픈AI '달리3' 유료고객만 이용 생성AI 업계, 수익창출 본격화 네이버·KT 등은 기업고객 공략

맛보기는 끝...'유료 생성AI' 속속 등장

오늘 팀 슬랙에 재밌는 대화가 있었습니다.

어떤 SaaS의 사용 비용이 시간 당 $70라는 것을 알고, 그 비용을 내고 쓸 거면 본인에게 주면 파트타임 업무로 수동으로 하겠다는 내용이었습니다. (결국은 잘못된 정보였고, 월 $70로 밝혀졌습니다.)

무튼 처음 들었을 때는 이런 생각이 들었습니다.
"엥? 사람이 하는 거 보다 비싸네..? 헐.."

그러다가 사실이 밝혀지고는...
"그럼 그렇지... 기계가 더 비쌀리가 없지."

결국 AI는 사람이 할 수 있는 많은 업무를 저렴한 가격으로 대체하고 있습니다. 인공지능 모델을 만들어 내는 데 어마무시한 비용이 들기 때문에 모든 분야를 대체할 수는 없겠지만... 분명한 것은 수요가 큰 시장은 빠른 속도로 장악해 나아갈 것입니다. 인간의 자리를 하나씩 빼앗아 갈겁니다.

이전 버전까지 무료였던 이미지 생성 AI DALL-E도 버전3 부터는 유료화 되었습니다. 지금 무료로 제공되는 Gen AI 제품들이 속속 유료화가 되겠죠. 아마도 대중적으로 성공을 거두게 될 수요가 큰 시장부터 속속 유료화가 될 겁니다. 

반대로 대중의 수요가 작은 시장은 도입도 느리고, 유료화도 느리고, 최종으로는 상용화에 실패할 수도 있을 겁니다. 다행하게도 범용 AI가 나오기 쉽지 않기 때문이죠. 

어쩌면, 사람은 이제 이런 도메인, AI 수요가 적은 영역에서 능력을 발휘할 기회를 찾아야 하는 걸 지 모르겠습니다. 

AI 수요가 적은 도메인, 뭘까요?

https://www.hankyung.com/article/2023092181011

한국경제

AI 수요가 적은 도메인, 뭘까요?

Explore the power of fine-tuning LLMs for model optimization. Learn about techniques, considerations, and when not to use LLM fine-tuning.

Fine-tuning LLMs 101 | Data Science Dojo

LLM(대규모 언어 모델)을 파인튜닝하는 것은 관련 데이터를 학습시켜 특정 작업에 맞게 모델의 매개변수를 조정하는 것으로, 모델 성능을 향상시키는 강력한 기법입니다.

🍀 LLM 파인튜닝(fine-tuning)
파인튜닝(fine-tuning)은 특정 작업에 맞게 LLM의 파라미터를 조정하는 프로세스입니다. 이는 작업과 관련된 데이터 세트에 대한 모델 학습을 통해 수행됩니다. 필요한 파인튜닝(fine-tuning)의 양은 작업의 복잡성과 데이터 세트의 크기에 따라 달라집니다.

LLM을 파인튜닝(fine-tuning)하는 방법에는 여러 가지가 있습니다. 한 가지 일반적인 접근 방식은 지도 학습을 사용하는 것입니다. 여기에는 모델에 레이블이 지정된 데이터 세트를 제공하는 것이 포함되며, 각 데이터 포인트는 입력과 출력의 쌍으로 구성됩니다. 모델은 손실 함수를 최소화하여 입력을 출력에 매핑하는 방법을 학습합니다.

LLM을 파인튜닝(fine-tuning)하는 또 다른 접근 방식은 강화 학습을 사용하는 것입니다. 여기에는 원하는 출력을 생성하는 데 대한 보상 신호를 모델에 제공하는 것이 포함됩니다. 모델은 보상 신호를 최대화하여 원하는 출력을 생성하는 방법을 학습합니다.

이러한 어려움에도 불구하고 기초 LLM을 파인튜닝(fine-tuning)하는 것은 특정 작업에서 LLM의 성능을 개선할 수 있는 유망한 접근 방식입니다. 대규모 데이터 세트와 컴퓨팅 리소스의 가용성이 증가함에 따라 파인튜닝(fine-tuning)이 더욱 보편화될 가능성이 높습니다.

🍀 LLM을 위한 파인튜닝(fine-tuning) 기술
파인튜닝(fine-tuning)은 특정 작업에 맞게 LLM의 파라미터를 조정하는 프로세스입니다. 이는 작업과 관련된 데이터 세트에 대한 모델 학습을 통해 수행됩니다. 필요한 파인튜닝(fine-tuning)의 양은 작업의 복잡성과 데이터 세트의 크기에 따라 다릅니다. LLM에는 용도 변경과 전체 파인튜닝(fine-tuning)이라는 두 가지 주요 파인튜닝(fine-tuning) 기술이 있습니다.

1. 용도 변경
용도 변경은 원래 학습된 작업과 다른 작업에 LLM을 사용하는 기법입니다. 예를 들어 텍스트 생성을 위해 학습된 LLM을 감성 분석에 사용할 수 있습니다.

LLM의 용도를 변경하려면 먼저 수행하려는 작업과 관련된 입력 데이터의 특징을 식별해야 합니다. 그런 다음, 이러한 특징을 원하는 출력에 매핑하는 방법을 학습할 수 있는 분류기 모델에 LLM의 임베딩 레이어를 연결해야 합니다. 용도 변경은 전체 파인튜닝(fine-tuning)보다 계산 비용이 적게 드는 파인튜닝(fine-tuning) 기법입니다. 하지만 동일한 수준의 성능을 달성할 가능성은 낮습니다.

2. 전체 파인튜닝(fine-tuning)
전체 파인튜닝(fine-tuning)은 수행하려는 작업과 관련된 데이터 데이터 세트에 대해 전체 LLM을 학습시키는 기법입니다. 이는 가장 계산 비용이 많이 드는 파인튜닝(fine-tuning) 기법이지만 최상의 성능을 얻을 가능성이 가장 높은 기법이기도 합니다.

LLM을 완전히 파인튜닝(fine-tuning)하려면 수행하려는 작업에 대한 입력 및 출력의 예가 포함된 데이터 데이터 집합을 만들어야 합니다. 그런 다음 지도 학습 알고리즘을 사용하여 이 데이터 세트에 대해 LLM을 훈련시켜야 합니다. 파인튜닝(fine-tuning) 기술의 선택은 수행하려는 특정 작업과 사용 가능한 리소스에 따라 달라집니다. 계산 리소스가 부족하다면 용도 변경을 고려할 수 있습니다. 그러나 최상의 성능을 원한다면 LLM을 완전히 파인튜닝(fine-tuning)해야 합니다.

🍀 비지도 파인튜닝(fine-tuning)과 지도 파인튜닝(fine-tuning) LLM 비교
대규모 언어 모델(LLM)은 텍스트와 코드의 방대한 데이터 세트에 대해 사전 학습됩니다. 이를 통해 텍스트 생성, 번역, 질의응답 등 다양한 작업을 학습할 수 있습니다. 그러나 LLM은 파인튜닝(fine-tuning) 없이는 특정 작업에 적합하지 않은 경우가 많습니다.

파인튜닝(fine-tuning)은 특정 작업에 맞게 LLM의 파라미터를 조정하는 프로세스입니다. 이는 작업과 관련된 데이터 세트에 대한 모델 학습을 통해 수행됩니다. 필요한 파인튜닝(fine-tuning)의 양은 작업의 복잡성과 데이터 세트의 크기에 따라 다릅니다.LLM의 파인튜닝(fine-tuning)에는 비지도 및 지도의 두 가지 주요 유형이 있습니다.

🍎 비지도 파인튜닝(fine-tuning)
비지도 파인튜닝(fine-tuning)은 레이블이 포함되지 않은 데이터 데이터 세트에 대해 LLM을 학습시키는 기법입니다. 즉, 모델은 각 입력에 대해 올바른 출력이 무엇인지 알지 못합니다. 대신 모델은 시퀀스의 다음 토큰을 예측하거나 데이터 세트의 텍스트와 유사한 텍스트를 생성하는 방법을 학습합니다.

비지도 파인튜닝(fine-tuning)은 지도 파인튜닝(fine-tuning)보다 계산 비용이 적게 드는 파인튜닝(fine-tuning) 기법입니다. 그러나 동일한 수준의 성능을 달성할 가능성도 낮습니다.

🍎 지도 파인튜닝(fine-tuning)
지도 파인튜닝(fine-tuning)은 레이블이 포함된 데이터 데이터 세트에 대해 LLM을 학습시키는 기법입니다. 즉, 모델은 각 입력에 대해 올바른 출력이 무엇인지 알고 있습니다. 모델은 손실 함수를 최소화하여 입력을 출력에 매핑하는 방법을 학습합니다.

지도 파인튜닝(fine-tuning)은 비지도 파인튜닝(fine-tuning)보다 계산 비용이 더 많이 드는 파인튜닝(fine-tuning) 기법입니다. 그러나 최상의 성능을 얻을 가능성도 더 높습니다.

파인튜닝(fine-tuning) 기법의 선택은 수행하려는 특정 작업과 사용 가능한 리소스에 따라 달라집니다. 계산 리소스가 부족하다면 비지도 파인튜닝(fine-tuning)을 고려할 수 있습니다. 그러나 최상의 성능을 원한다면 LLM의 파인튜닝(fine-tuning)을 감독해야 합니다.

🍀 인간 피드백으로부터의 강화 학습(RLHF) LLM을 위한 파라미터 효율적 파인튜닝(fine-tuning)(PEFT)
LLM을 파인튜닝(fine-tuning)하는 데는 감독된 파인튜닝(fine-tuning)과 인간의 피드백을 통한 강화 학습(RLHF)이라는 두 가지 주요 접근 방식이 있습니다.

1. 감독형 파인튜닝(fine-tuning)
지도 파인튜닝(fine-tuning)은 레이블이 포함된 데이터 데이터 세트에 대해 LLM을 훈련시키는 기법입니다. 즉, 모델은 각 입력에 대해 올바른 출력이 무엇인지 알고 있습니다. 모델은 손실 함수를 최소화하여 입력을 출력에 매핑하는 방법을 학습합니다.

2. 인간 피드백을 통한 강화 학습(RLHF)
RLHF는 사람의 피드백을 사용하여 LLM을 파인튜닝(fine-tuning)하는 기법입니다. 기본 아이디어는 LLM에 프롬프트를 주고 출력을 생성하는 것입니다. 그런 다음 사람에게 출력에 대한 평가를 요청합니다. 이 평가는 더 높은 품질의 출력을 생성하기 위해 LLM을 파인튜닝(fine-tuning)하는 신호로 사용됩니다.

RLHF는 감독 파인튜닝(fine-tuning)보다 더 복잡하고 비용이 많이 드는 파인튜닝(fine-tuning) 기술입니다. 하지만 정의하기 어렵거나 라벨링된 데이터가 충분하지 않은 작업에 더 효과적일 수 있습니다.

🍀  매개변수 효율적 파인튜닝(fine-tuning)(PEFT)
PEFT는 파인튜닝(fine-tuning) 중에 업데이트해야 하는 매개변수의 수를 줄이기 위한 일련의 기술입니다. 이는 더 작은 데이터 집합을 사용하거나, 더 간단한 모델을 사용하거나, 낮은 순위 적응(LoRA)이라는 기술을 사용하여 수행할 수 있습니다.

LoRA는 저차원 행렬을 사용하여 다운스트림 작업의 공간을 표현하는 기법입니다. 그런 다음 전체 LLM 대신 이 행렬을 파인튜닝(fine-tuning)합니다. 이를 통해 파인튜닝(fine-tuning)에 필요한 계산량을 크게 줄일 수 있습니다.

PEFT는 LLM을 파인튜닝(fine-tuning)하는 데 유망한 접근 방식입니다. 파인튜닝(fine-tuning)을 더 저렴하고 효율적으로 수행할 수 있으므로 더 많은 사용자가 더 쉽게 접근할 수 있습니다.

🍀 LLM 파인튜닝(fine-tuning)을 사용하지 않는 경우
대규모 언어 모델(LLM)은 텍스트와 코드의 방대한 데이터 세트에 대해 사전 학습됩니다. 이를 통해 텍스트 생성, 번역, 질의응답 등 다양한 작업을 학습할 수 있습니다. 하지만 LLM을 파인튜닝(fine-tuning)하는 것이 항상 필요하거나 바람직한 것은 아닙니다.

다음은 LLM 파인튜닝(fine-tuning)을 사용하지 않는 몇 가지 경우입니다:

👉 모델을 파인튜닝(fine-tuning)할 수 없는 경우. 일부 LLM은 파인튜닝(fine-tuning)을 허용하지 않는 API(애플리케이션 프로그래밍 인터페이스)를 통해서만 사용할 수 있습니다.
👉 모델을 파인튜닝(fine-tuning)할 데이터가 충분하지 않습니다. LLM을 파인튜닝(fine-tuning)하려면 레이블이 지정된 대량의 데이터 세트가 필요합니다. 데이터가 충분하지 않으면 파인튜닝(fine-tuning)을 통해 좋은 결과를 얻지 못할 수 있습니다.
👉 데이터는 끊임없이 변화합니다. LLM을 사용하는 데이터가 지속적으로 변경되면 파인튜닝(fine-tuning)이 이를 따라잡지 못할 수 있습니다. 특히 원어의 어휘와 문법이 시간이 지남에 따라 변할 수 있는 기계 번역과 같은 작업의 경우 더욱 그렇습니다.
👉 애플리케이션은 동적이고 상황에 민감합니다. 경우에 따라 LLM의 출력은 사용자 또는 상황의 특정 컨텍스트에 맞게 조정되어야 합니다. 예를 들어 고객 서비스 애플리케이션에서 사용되는 챗봇은 고객의 의도를 파악하고 그에 따라 응답할 수 있어야 합니다. 이러한 유형의 애플리케이션에 맞게 LLM을 파인튜닝(fine-tuning)하려면 챗봇이 사용되는 다양한 컨텍스트를 캡처하는 레이블이 지정된 대규모 데이터 세트가 필요하기 때문에 어려울 수 있습니다.

이러한 경우에는 다음과 같은 다른 접근 방식을 사용하는 것을 고려할 수 있습니다:

👉 더 작고 덜 복잡한 모델 사용. 더 작은 모델은 훈련하고 파인튜닝(fine-tuning)하는 데 계산 비용이 덜 들며 일부 작업에는 충분할 수 있습니다.
👉 전이 학습 접근 방식 사용. 전이 학습은 다른 작업에 대해 학습된 모델을 사용하여 새 작업에 대한 모델을 초기화하는 기법입니다. 이 방법은 모델이 더 빨리 학습하는 데 도움이 될 수 있으므로 새 작업을 위해 모델을 훈련하는 데 더 효율적인 방법이 될 수 있습니다.
👉 인컨텍스트 학습 또는 검색 증강 사용. 컨텍스트 내 학습 또는 검색 증강은 추론 시간 동안 LLM에 컨텍스트를 제공하는 기법입니다. 이를 통해 LLM이 보다 정확하고 관련성 높은 결과를 생성하는 데 도움이 될 수 있습니다.

🍀  마무리
결론적으로, LLM을 파인튜닝(fine-tuning)하는 것은 이러한 모델을 특정 작업에 맞게 조정할 수 있는 강력한 도구입니다. 용도 변경 및 전체 파인튜닝(fine-tuning)을 포함하여 그 뉘앙스와 옵션을 이해하면 성능을 최적화하는 데 도움이 됩니다. 감독형 파인튜닝(fine-tuning)과 비감독형 파인튜닝(fine-tuning) 중 어떤 것을 선택할지는 리소스와 작업의 복잡성에 따라 달라집니다. 또한 인간 피드백을 통한 강화 학습(RLHF)과 매개변수 효율적 파인튜닝(fine-tuning)(PEFT)은 전문화된 접근 방식을 제공합니다. 파인튜닝(fine-tuning)은 LLM을 향상시키지만, 특히 모델이 이미 업무에 적합한 경우에는 항상 필요한 것은 아닙니다. 특정 애플리케이션에 대한 LLM의 효율성과 효과를 극대화하려면 파인튜닝(fine-tuning)을 사용할 시기를 신중하게 고려해야 합니다.

Data Science Dojo

LLM 파인튜닝(Fine-tuning) 101

Translate texts & full document files instantly. Accurate translations for individuals and Teams. Millions translate with DeepL every day.

DeepL Translate: The world's most accurate translator

🍀 LLMOps란 무엇인가요?
대규모 언어 모델 운영의 약자인 LLMOps는 프로덕션 환경 내에서 대규모 언어 모델을 운영 관리하기 위해 사용되는 일련의 관행, 기술 및 도구를 포괄합니다.

따라서 이러한 모델을 운영 워크플로우에 효과적으로 통합하기 위한 모범 사례를 수립해야 할 필요성이 커지고 있습니다. LLMOps는 대규모 언어 모델의 간소화된 배포, 지속적인 모니터링 및 지속적인 유지 관리를 용이하게 합니다. 기존의 머신 러닝 운영(MLOps)과 마찬가지로 LLMOps도 데이터 과학자, DevOps 엔지니어, IT 전문가가 참여하는 협업이 필요합니다. 

🍀 개발부터 프로덕션 워크플로우까지 LLM
대규모 언어 모델(LLM)은 개방형 질의응답, 요약, 거의 임의의 명령어 실행 등 광범위한 작업에서 이전 벤치마크를 크게 뛰어넘는 새로운 범주의 자연어 처리(NLP) 모델을 나타냅니다. MLOps의 운영 요구사항은 대부분 LLMOps에 적용되지만, LLM을 교육하고 배포하는 데는 LLMOps에 대한 고유한 접근 방식이 요구되는 고유한 과제가 있습니다.

🍀 LLMOps의 구성 요소는 무엇인가요?
머신러닝 프로젝트 내에서 LLMOps의 범위는 각 프로젝트의 특정 요구사항에 따라 매우 다양할 수 있습니다. 일부 프로젝트에서는 데이터 준비부터 파이프라인 생산에 이르는 작업을 아우르는 포괄적인 LLMOps 접근 방식이 필요할 수 있습니다.

1. 탐색적 데이터 분석(EDA)
🚩 데이터 수집: LLMOps의 첫 번째 단계는 LLM을 학습시키는 데 사용할 데이터를 수집하는 것입니다. 이 데이터는 텍스트 코퍼라, 코드 저장소, 소셜 미디어 등 다양한 소스에서 수집할 수 있습니다.
🚩 데이터 정리: 데이터를 수집한 후에는 학습을 위해 데이터를 정리하고 준비해야 합니다. 여기에는 오류 제거, 불일치 수정, 중복 데이터 제거 등이 포함됩니다.
🚩 데이터 탐색: 다음 단계는 데이터의 특성을 더 잘 이해하기 위해 데이터를 탐색하는 것입니다. 여기에는 데이터의 분포를 살펴보고, 이상값을 식별하고, 패턴을 찾는 것이 포함됩니다.

2. 데이터 준비 및 신속한 엔지니어링
🚩 데이터 준비: LLM을 학습시키는 데 사용되는 데이터는 특정한 방식으로 준비해야 합니다. 여기에는 데이터 토큰화, 중단어 제거, 텍스트 정규화 등이 포함됩니다.
🚩 프롬프트 엔지니어링: 프롬프트 엔지니어링은 LLM으로 텍스트를 생성하는 데 사용되는 프롬프트를 만드는 프로세스입니다. 프롬프트는 LLM이 원하는 출력을 생성할 수 있도록 신중하게 만들어야 합니다.

3. 모델 미세 조정
🚩 모델 학습: 데이터가 준비되면 LLM을 학습시킵니다. 이는 머신러닝 알고리즘을 사용하여 데이터의 패턴을 학습하는 방식으로 이루어집니다.
🚩 모델 평가: LLM이 학습되면 얼마나 잘 작동하는지 평가해야 합니다. 이 평가는 LLM을 학습시키는 데 사용되지 않은 테스트 데이터 세트를 사용하여 수행됩니다.
🚩 모델 미세 조정: LLM의 성능이 좋지 않은 경우 미세 조정할 수 있습니다. 여기에는 LLM의 파라미터를 조정하여 성능을 개선하는 작업이 포함됩니다.

4. 모델 검토 및 거버넌스
🚩 모델 검토: LLM을 미세 조정한 후에는 안전하고 신뢰할 수 있는지 검토해야 합니다. 여기에는 편향성, 안전 및 보안 위험 점검이 포함됩니다.
🚩 모델 거버넌스: 모델 거버넌스는 수명 주기 동안 LLM을 관리하는 프로세스입니다. 여기에는 성능을 추적하고, 필요에 따라 변경하고, 더 이상 필요하지 않은 경우 폐기하는 것이 포함됩니다.

5. 모델 추론 및 제공
🚩 모델 추론: LLM을 검토하고 승인하면 프로덕션에 배포할 수 있습니다. 즉, 텍스트를 생성하거나 질문에 답변하는 데 사용할 수 있습니다.
🚩 모델 제공: 모델 제공은 사용자가 LLM을 사용할 수 있도록 하는 프로세스입니다. 이는 REST API 또는 웹 애플리케이션과 같은 다양한 방법을 통해 수행할 수 있습니다.

6. 사람의 피드백을 통한 모델 모니터링
🚩 모델 모니터링: LLM이 배포되면 예상대로 작동하는지 확인하기 위해 모니터링해야 합니다. 여기에는 성능을 추적하고, 문제를 파악하고, 필요에 따라 변경하는 것이 포함됩니다.
🚩 사람의 피드백: 사람의 피드백을 통해 LLM의 성능을 개선할 수 있습니다. 이는 LLM이 생성하는 텍스트에 대한 피드백을 제공하거나 LLM의 성능에 문제가 있는지를 파악하는 방식으로 이루어질 수 있습니다.
 
🍀 LLMOps 구현 모범 사례
LLMOps는 데이터 준비부터 파이프라인 생산에 이르기까지 광범위한 작업을 다룹니다. 다음은 LLMOps를 성공적으로 도입하기 위한 7가지 핵심 단계입니다:

1. 데이터 관리 및 보안
데이터는 LLM 교육에서 중요한 구성 요소이므로 강력한 데이터 관리와 엄격한 보안 관행이 필수적입니다. 
🚩 데이터 저장: 대용량 데이터를 처리할 수 있는 적절한 소프트웨어 솔루션을 사용하여 전체 LLM 수명 주기 동안 효율적인 데이터 검색을 보장합니다.
🚩 데이터 버전 관리: 포괄적인 데이터 버전 관리 관행을 통해 데이터 변경 기록을 유지하고 개발을 모니터링합니다.
🚩 데이터 암호화 및 액세스 제어: 전송 암호화로 데이터를 보호하고 역할 기반 액세스와 같은 액세스 제어를 적용하여 안전한 데이터 처리를 보장합니다.
🚩 탐색적 데이터 분석(EDA): 머신 러닝 수명 주기에 맞춰 데이터를 지속적으로 준비하고 탐색하여 공유 가능한 시각화 및 재현 가능한 데이터 세트를 생성합니다.
🚩 프롬프트 엔지니어링: 신뢰할 수 있는 프롬프트를 개발하여 LLM에서 정확한 쿼리를 생성하고 효과적인 커뮤니케이션을 촉진합니다.
 
2. 모델 관리
LLMOps에서는 LLM 모델의 효율적인 교육, 평가 및 관리가 가장 중요합니다. 다음은 몇 가지 권장 사례입니다:
🚩 기초 모델 선택: 성능, 크기, 호환성 등의 요소를 고려하여 적절한 사전 학습된 모델을 커스터마이징의 시작점으로 선택합니다.
🚩 소수 샷 프롬프트: 소수 샷 학습을 활용하여 광범위한 학습 데이터 없이도 특수한 작업에 대한 모델 미세 조정을 신속하게 수행하여 대규모 언어 모델을 활용할 수 있는 다양하고 효율적인 접근 방식을 제공합니다.
🚩 모델 미세 조정: 기존 라이브러리와 미세 조정을 위한 기술을 사용하여 모델 성능을 최적화하고 특정 도메인에서 모델의 기능을 향상시킬 수 있습니다.
🚩 모델 추론 및 제공: 모델 새로 고침 주기를 관리하고 효율적인 추론 요청 시간을 보장하는 동시에 테스트 및 품질 보증 단계에서 프로덕션 관련 고려 사항을 해결합니다.
🚩 사람의 피드백을 통한 모델 모니터링: 모델 드리프트를 감지하고 잠재적인 악의적인 사용자 행동을 식별하기 위한 경고를 통합하는 강력한 데이터 및 모델 모니터링 파이프라인을 개발하세요.
🚩 모델 평가 및 벤치마킹: 모델 드리프트 및 잠재적인 악의적인 사용자 행동을 식별하기 위한 경고를 포함하여 포괄적인 데이터 및 모델 모니터링 파이프라인을 구축합니다. 이러한 사전 예방적 접근 방식은 모델 안정성과 보안을 강화합니다.

3. 배포
다음 팁을 통해 모델 성능과 접근성을 최적화하면서 원하는 환경에 원활하게 통합할 수 있습니다:
🚩 클라우드 기반 및 온프레미스 배포: 예산, 보안 및 인프라 요구 사항과 같은 고려 사항에 따라 적절한 배포 전략을 선택합니다.
🚩 특정 작업에 맞게 기존 모델 조정하기: 이 접근 방식은 비용 효율적이므로 사전 학습된 모델을 특정 업무에 맞게 조정합니다. 자연어 처리(NLP) 또는 딥 러닝 모델과 같은 다른 머신 러닝 모델을 사용자 지정하는 데에도 적용됩니다.

4. 모니터링 및 유지 관리
LLMOps는 시간이 지나도 지속적인 성능과 적응성을 보장합니다:
🚩 모델 성능 개선: 모델 및 파이프라인 계보와 버전에 대한 추적 메커니즘을 구축하여 수명 주기 전반에 걸쳐 아티팩트와 전환을 효율적으로 관리할 수 있습니다.
이러한 모범 사례를 구현함으로써 조직은 LLMOps 채택을 개선하고 운영 워크플로우에서 대규모 언어 모델의 이점을 극대화할 수 있습니다.

🍀 LLMOps가 필수적인 이유는 무엇인가요?
대규모 언어 모델(LLM)은 텍스트와 코드로 구성된 방대한 데이터 세트에 대해 학습되는 인공 지능(AI)의 한 유형입니다. 텍스트 생성, 번역, 질문 답변 등 다양한 작업에 사용할 수 있습니다. 하지만 LLM은 배포 및 관리가 복잡하고 까다롭기도 합니다. 이것이 바로 LLMOps가 필요한 이유입니다.

LLMOps는 LLM을 배포, 관리 및 모니터링하는 데 사용되는 일련의 관행과 도구입니다. 실험과 반복부터 배포 및 지속적인 개선에 이르기까지 전체 LLM 개발 수명 주기를 포괄합니다.

LLMOps는 여러 가지 이유로 필수적입니다. 
🚩 첫째, 일관되고 신뢰할 수 있는 방식으로 LLM을 배포하고 관리하는 데 도움이 됩니다. 이는 고객 서비스 챗봇이나 의료 진단 시스템과 같은 중요한 애플리케이션에서 LLM이 자주 사용되기 때문에 중요합니다.
🚩 둘째, LLMOps는 LLM의 성능을 개선하는 데 도움이 됩니다. LLM의 성능을 모니터링하여 개선할 수 있는 영역을 파악할 수 있습니다. 이는 LLM의 파라미터를 조정하거나 더 많은 학습 데이터를 제공함으로써 가능합니다.
🚩 셋째, LLMOps는 LLM과 관련된 위험을 완화하는 데 도움이 됩니다. LLM은 텍스트와 코드로 구성된 방대한 데이터 세트를 학습하는데, 이 데이터에는 유해하거나 편향된 정보가 포함될 수 있습니다. LLMOps는 LLM의 학습 데이터에서 이러한 정보를 식별하고 제거하는 데 도움을 줄 수 있습니다.

🍀 LLMOps의 장점은 무엇인가요?
🚩 효율성: LLMOps는 LLM 개발 및 배포의 효율성을 개선하는 데 도움이 될 수 있습니다. 이는 데이터 준비 및 모델 트레이닝과 같은 LLMOps와 관련된 많은 작업을 자동화함으로써 이루어집니다.
🚩 확장성: LLMOps는 LLM 개발 및 배포를 확장하는 데 도움이 될 수 있습니다. 이는 여러 LLM을 더 쉽게 관리하고 배포할 수 있도록 함으로써 이루어집니다.
🚩 위험 완화: LLMOps는 LLM과 관련된 위험을 완화하는 데 도움이 될 수 있습니다. 이는 LLM의 학습 데이터에서 유해하거나 편향된 정보를 식별하여 제거하고, LLM의 성능을 모니터링하여 잠재적인 문제를 식별함으로써 이루어집니다.

결론적으로 LLMOps는 대규모 언어 모델을 성공적으로 배포하고 관리하고자 하는 조직에게 매우 중요한 분야입니다. 여기에 설명된 모범 사례를 구현함으로써 조직은 일관되고 신뢰할 수 있는 방식으로 LLM을 배포 및 관리하고 이러한 강력한 모델의 이점을 극대화할 수 있습니다.

Deepl

LLMOps에 대한 이해: 이것이 중요한 이유와 2023년의 모범 사례

글로벌 네트워크 전문 기업 시스코가 데이터 분석 플랫폼 기업 스플렁크를 인수했다.시스코는 스플렁크와 21일(현지시간) 최종 인수합병 계약을 체결했다고 밝혔다. 인수가는 28...

시스코, 데이터 분석 기업 '스플렁크' 37조원에 인수

글로벌 No. 네트워크 장비 업체인 시스코 시스템즈(CSCO)가 스플렁크를 주당 157달러, 총 280억달러에 전액 현금 거래로 21일(현지시간) 최종 인수합병 계약을 체결했다고 밝혔다.  시스코가 제시한 인수가는 주당 157달러로 스플렁크의 20일 종가에 약 30% 프리미엄이 붙은 가격이다. 인수합병 이후 게리 스틸 스플렁크 사장 겸 최고경영자(CEO)는 시스코의 경영진에 합류하게 된다.

- 인수 배경
그간 시스코는 스위치와 라우터를 판매하는 기존 사업에서 벗어나 반복 매출을 올리는 구독 기반 소프트웨어 및 서비스 사업으로 전환하기 위해 인수 대상 기업을 물색해왔다. 월스트리트저널(WSJ) 보도에 따르면 지난 2022년 2월에도 스플렁크를 200억달러에 인수하겠다고 제안한 바 있다.

- 향후 플랜
시스코는 스플렁크 인수를 통해 소프트웨어 사업을 강화하고 인공지능(AI) 경쟁력을 키울 계획이다. 2003년 10월 설립된 스플렁크는 AI와 머신러닝 기술을 활용해 대량의 데이터를 바탕으로 비즈니스 시스템과 프로세스를 빠르게 개선하려는 기업을 위한 선도적인 플랫폼을 제공한다.  특히, 스플렁크의 보안 역량은 시스코의 포트폴리오를 보완하고, 디바이스에서 애플리케이션, 클라우드에 이르기까지 선도적인 보안 분석과 커버리지를 제공할 전망이다. 이를 통해 하이브리드 및 멀티 클라우드 환경 전반에 통합 가시성을 제공해 고객이 디지털 비즈니스를 강화하는 원활한 애플리케이션 경험을 제공할 수 있도록 지원할 것으로 기대된다.

< 스플렁크(Splunk)​ >
- 설립연도: 2003년 10월(19년)
- 본사: 미국 샌프란시스코
- 직원수: +8,000
- 창립자: 마이클 바움, Rob Das, 에릭 스완
- 고객사: 16,000+(글로벌), 400+(한국)
- 매출: 36억 5천만 달러(2023년)
- 기업공개: NASDAQ(TICKER:SPLK)
- 홈페이지: http://www.splunk.com
- 주요솔루션: Splunk Enterprise, Splunk Cloud Platform , Splunk Attack Analyzer, Splunk enterprise security, Splunk Mission control,  Splunk security essentials, Splunk SOAR, Splunk user behavior analytics, Splunk application performance monitoring, splunk infrastructure monitoring, splunk IT service intelligence, Splunk Real user monitoring, Splunk on-call, Splunk synthetic monitoring 등 비즈니스 인텔리전스 도구, 데이터 분석 도구, 빅 데이터 도구, 사이버 보안 도구

* 데이터 분석 소프트웨어에 뿌리를 둔 스플렁크는 사이버 보안으로 사업을 확장했다. 기업이 데이터를 모니터링하고 분석하여 해킹 위험을 최소화하고 기술적 문제를 좀 더 신속하게 해결하도록 지원한다. 또한 온프레미스 제품에서 서비스형 소프트웨어 비즈니스 모델로 전환하고 있다.

출처:
- https://www.datanet.co.kr/news/articleView.html?idxno=187419
- https://zdnet.co.kr/view/?no=20230922081014

Zdnet

대규모 투자 유치 이후의 스타트업들에서 수시로 목격할 수 있는 일이 있는데요.
대기업 출신의 임원 영입, 대규모 채용, 출혈 마케팅으로 입니다.

얼리 스테이지에서 스케일업을 하려 할 때 발생할 확률이 매우 높습니다.
투자 목적과 시기가 적기라고 판단되어 집행이 되었을 텐데 왜 이런 일들이 일어날까요?

시작은 거의 비슷합니다.
매출이 발생하고 마케팅을 통해 성장 속도가 가팔라지는 시점에 인력의 부족, 채용의 어려움, 시스템의 한계, 전문 인재의 필요성 등을 느끼게 됩니다. 

이를 해결해 줄 묘안으로 경험이 풍부한 대기업 출신 리더를 수소문해 영입을 꽤합니다.
리더의 영입 이후 처우 개선과 조직을 신설하며 대규모 채용을 진행합니다. 
영입된 인재들을 중심으로 다양한 영업과 마케팅, 운영을 하며 공격적으로 숫자를 쫓아 지표들을 가파르게 성장시킵니다.
인력 규모의 폭발적 증가와 함께 판관비 역시 폭발적으로 함께 증가하고 여러 이슈들이 산발적으로 터지기 시작합니다.

혼돈....

(그나마 잘 영입했다면) 임원진들과 함께 잘 협의해나가며 선택과 집중을 통해 업무와 리소스를 관리를 하고 어려웠던 채용 문제도 풀어가며 업무 프로세스와 인적 관리 정책들이 맞물려져 돌아갈 때까지 버텨내면 "의미있는 성장통"으로 평가될 수 있겠지만....

고정비의 급증, 비효율적인 마케팅 비용의 집행, 재고와 부채의 증가, 핵심 인재들의 이탈, 후속 투자의 불확실성 등과 같은 이유로 감당할 수 없는 상황에 이르는 "무리한 투자"가 더 많습니다.

스케일업을 하려할 때 빠르게 달성하려하기 보다 성장을 위한 체력을 준비한 뒤에 순차적으로 성장을 이어가는 것이 필요합니다.

채용에 앞서 성장 목표에 대한 우선순위를 사전에 명확히한 후 채용 로드맵을 계획하고 리더 영입을 통해 내부 조직의 정비(업무 프로세스와 HR 시스템)가 선행되어야 합니다.
되도록 경쟁 또는 목표로한 기업의 조직에 견주어 조직을 구성하고 규모를 설정하기보다 가장 효율적으로 성과를 달성할 수 있는 우선순위가 높은 업무 순으로 개선해나가는 형태가 좋습니다.
마케팅은 충분히 준비된 다음에 해도 됩니다. 

고객이 만족할 만한 좋은 프로덕트라면 무리하게 경쟁하며 할 필요가 없을지 모릅니다.
카카오도 배민도 쿠팡도 그럤습니다.

스케일업을 할 때에는 '조직 규모의 확장'보다는 '조직 기능의 향상'에 주목적을 두어야 합니다.

큰 투자를 통해 스케일업을 준비하고 있다면 무엇이 준비되어 있는지 확인해보시기 바랍니다

Developers and Open Source authors now have a massive amount of services offering free tiers, but it can be hard to find them all to make informed decisions.

Free for Developers

프리티어(free tiers)로 사용할 수 있는 소프트웨어(SaaS, PaaS, IaaS...) 등을 정리해둔 사이트입니다. 토이 프로젝트나 작은 프로젝트에서 활용하기 좋을 정보가 많네요!

https://free-for.dev

Free-for

📌 무료로 사용할 수 있는 개발 도구들

Starting code for the GildedRose Refactoring Kata in many programming languages. - GitHub - emilybache/GildedRose-Refactoring-Kata: Starting code for the GildedRose Refactoring Kata in many programming languages.

GitHub - emilybache/GildedRose-Refactoring-Kata: Starting code for the GildedRose Refactoring Kata in many programming languages.

제가 진행하고 있는 스터디에서 공유 받았던 꽤 좋아 보이는 리팩토링 스터디 방법이 있어 공유합니다.

이미 작성된 날것의 코드를 요구사항에 맞추면서 리팩토링을 해보는 건데요. 정답이 없는 각자 리팩토링을 해보면서 서로 의견 나누고 코드 리뷰도 하다 보면 다양한 방법으로 보다 더 좋은 코드로 만들어 볼 수 있을 것 같습니다. 더불어 테스트 코드 또한 리팩토링을 하며 기능별로 구성해 볼 수 있을 것 같아 꽤 유용한 재료라 생각합니다.

어떤 분이 요구사항에 대해 친절하게도 번역을 해놓으신 게 있어 꼭 스터디가 아니더라도 홀로 작업해 봐도 좋을 것 같습니다.

https://github.com/emilybache/GildedRose-Refactoring-Kata

리팩토링 해보실? 지금 당장 도전해보세요!

Spring Boot Folder Structure (Best Practices). What is Spring Boot - If you don't know what spring boot is, I'm happy to share my previous article which is related to spring boot setup....

Spring Boot Folder Structure (Best Practices)

개발자들은 코드의 유지보수성, 팀원 간 협업 및 전체 개발 프로세스 개선을 위해 잘 구조화된 폴더 구조를 사용합니다. 스프링 부트 폴더 구조가 중요한 이유는 다음과 같습니다.

- 명확성 및 구성
- 모듈화
- 확장성
- 코드 재사용성

다음은 스프링 부트 애플리케이션에 대한 폴더 구조를 보여줍니다. (링크 참조)

📌 config

애플리케이션 설정을 구성하는 구성 클래스 또는 애플리케이션-레벨의 AppConfig를 포함합니다.

📌 controller

RESTful 컨트롤러 클래스를 포함합니다. 이 클래스는 들어오는 HTTP 요청을 처리하고 API Endpoint를 정의합니다.

📌 DTO

응용 프로그램의 다른 계층 또는 구성 요소 간에 데이터를 전송하기 위해 사용됩니다. 
- 비즈니스 로직이 포함되지 않음
- 데이터 운반이 주 목적

📌 Enums

Enum 클래스의 예시로는 SUCCESS, FAIL, PENDING등의 상태가 있습니다.

📌 model

도메인의 구조나 동작을 나타내는 데이터 모델 또는 엔티티를 저장합니다. 데이터베이스 테이블에 매핑되고 데이터의 속성과 관계를 정의합니다.

📌 repository

데이터 접근을 다루는 레파지토리 클래스를 포함합니다. 이러한 클래스는 일반적으로 ORM, JPA 등을 사용하여 데이터베이스와 상호작용 합니다.

📌 service

비즈니스 로직을 구현하는 서비스 클래스를 포함합니다. 

📌 utils

코드베이스를 체계적이고 모듈식으로 운영하기 위해 유틸리티 클래스를 배치합니다.

Medium

🕊️ 스프링 부트 폴더 구조 모범 사례

Product-Minded Software Engineer(이하 제품 중심 개발자)는 제품 자체에 큰 관심을 가지는 개발자들이다. 그들은 사람들이 제품을 어떻게 사용하는지 이해하려 하며 제품 관련 의사 결정에 참여하는 것을 즐긴다. 제품 중심 개발자의 주요 특징은 무엇이며, 어떻게 제품 중심 개발자로 성장할 수 있을까? 이 글에서는 제품 중심 개발자의 9가지 특징과 제품 중심 개발자로 성장하는 방법에 대해 설명한다.

제품 중심 개발자 (번역)

최근 개발자를 구분하는 명칭을 기존의 Frontend/Backend Engineer에서 Product/Platform Engineer로 바뀌어야한다는 Vercel 개발자의 글이 이슈가 되었는데요.

Product Engineer에 대한 좋은 글이 있어 번역해보았습니다.
( 전체 내용 보기 → https://www.jobless.blog/product-minded-engineer/?ref=careerly )

-------------------------------
📌 Product-Minded Software Engineer by Gergely Orosz

Product-Minded Software Engineer(이하 제품 중심 개발자)는 제품 자체에 큰 관심을 가지는 개발자들이다. 그들은 사람들이 제품을 어떻게 사용하는지 이해하려 하며 제품 관련 의사 결정에 참여하는 것을 즐긴다.

제품 중심 개발자의 주요 특징은 무엇이며, 어떻게 제품 중심 개발자로 성장할 수 있을까? 이 글에서는 제품 중심 개발자의 9가지 특징과 제품 중심 개발자로 성장하는 방법에 대해 설명한다.

1️⃣ 적극적으로 제품 아이디어/의견 제시
제품 중심 개발자는 기획을 그대로 받아들이고 구현하기만 하는 것에 만족하지 않는다. 다른 아이디어를 생각하고 이를 PM에게 제안한다. 그들은 기존 기획에 도전하며 더 나은 접근 방식을 제안하기도 한다.

2️⃣ 비즈니스, 사용자 행동 및 데이터에 대한 관심
제품 중심 개발자는 뜬구름 잡는 아이디어를 제시하지 않고, 비즈니스가 어떻게 작동하는지, 제품이 어떤 역할을 하는지, 그리고 비즈니스와 제품의 목표가 무엇인지 이해하기 위해 시간을 투자한 후 아이디어를 제시한다.

또한 그들은 제품이 사용자에게 어떤 영향을 미치고 사용자들이 어떤 가치를 얻는지 파악하기 위해 비즈니스 및 사용자 데이터에 가능한 직접 접근하려 한다.

3️⃣ "Why?"
제품 중심 개발자는 모든 것의 "Why?"를 이해하려 한다. 왜 이 기능을 제품에 추가해야 하며 다른 것이 아닌 이유는 무엇일까? 왜 더 간단하게 구축할 수 있는 것을 선택하지 않을까? 왜 더 확실한 방법을 선택하지 않을까? 그리고 그들은 자율적으로 답을 찾아 나선다. 그들은 PM과 다른 팀원들에게 많은 질문을 하지만 사람들을 그들을 성가시다고 생각하지 않는다. 좋은 관계를 구축해왔기 때문이다.

4️⃣ 뛰어난 커뮤니케이션 능력 및 비개발자들과의 좋은 관계
제품 중심 개발자는 개발팀 외부의 사람들과 대화하는 것을 좋아하며, 다른 분야가 어떻게 작동하는지 자세히 알고 싶어한다. 그들은 원활한 커뮤니케이터로서 다른 분야의 작업 방식을 더 자세히 이해하기 위해 노력한다. 종종 비개발자와 커피를 마시거나 점심을 함께하거나 회의실에서 이야기를 나누기도 한다.

5️⃣ 프로젝트 초기에 제품/엔지니어링 트레이드오프 제공
제품 중심 개발자는 제품의 "Why"와 엔지니어링 측면을 모두 이해하기 때문에 다른 사람들이 할 수 없는 제안을 할 수 있다. 예를 들어 제품 개발 범위와 비용(시간)을 계산할 때, 대부분의 개발자들은 엔지니어링 노력을 줄이려고 시도하고 줄인 노력이 기능 자체에 미치는 영향을 파악하려고 한다.

하지만 제품 중심 개발자는 양방향으로 파악한다. 엔지니어링 tradeoffs와 제품 tradeoffs를 모두 고려하는 것이다. 그들은 PM에게 제품 영향은 비슷하지만 엔지니어링 노력은 훨씬 적은 완전히 다른 기능을 구축하도록 제안할 수 있다.

제품과 엔지니어링 각각의 영향을 손쉽게 파악하는 것은 제품 중심 개발자가 가지는 고유한 강점이다. 그들은 엔지니어링 및 제품 통찰력을 사용하여 빠르게 양쪽 면을 오가며 가치 있는 결론에 도달한다.

6️⃣ 실용적인 Edge Case 처리
개발자들은 종종 Edge Cases를 잊고, 제품을 테스트하거나 최종 사용자로부터 피드백을 받은 후에 처리하곤 한다. 그리고 새 제품이나 기능의 모든 가능한 Edge Cases를 처리하는 데 많은 시간이 걸리곤 한다.

하지만 제품 중심 개발자는 빠르게 Edge Cases를 떠올리고 처리 방법을 생각하며, 때로는 엔지니어링 작업을 필요로하지 않는 해결책을 제공하기도 한다. 그들은 사랑받을 수 있는 최소한의 제품 개념(minimum lovable product concept)에 중점을 두고 Edge Cases와 처리 비용을 평가한다.

예를 들어, 1000명 중 1명의 사용자가 오류를 겪을 수 있다면 그들은 이것을 고치는 비용을 고려하고, 고치지 않았을 때 어떤 일이 일어날지 생각한다. '고객 지원이 이 경우에 도움을 줄 수 있을까?' '사용자는 다시 시도하고 다음 번에 성공할 수 있을까?' '제품을 약간 수정하여 이러한 Edge Case가 발생하지 않게 할 수 있을까?'

7️⃣ 빠른 제품 검증 주기
제품 중심 개발자는 작업 중인 기능의 개발이 완료되기 전에 초기 피드백을 얻는 창의적인 방법을 찾는다. 이것은 동료와 함께 테스트를 진행하거나, 진행 중인 작업 중에 제품 매니저에게 작업 중인 기능을 보여주거나, 베타 빌드에서 팀 bug bash를 조직하는 등 여러 가지 창의적인 방법일 수 있다. 그들은 계속해서 생각한다. 사람들이 이 기능을 우리가 생각한대로 사용하는지 확인하려면 어떻게 해야 할까?

8️⃣ End-to-end 제품 기능 오너십
대부분의 경험 많은 개발자들은 자신의 작업에 대해 end-to-end 오너십을 갖는다. 기획 명세를 받아들이고 구현하는 것에서 부터, 출시하고 올바르게 작동하는지 확인하는 것까지 모든 것이다. 그러나 제품 중심 개발자는 이보다 한 발 더 나아간다.

제품 중심 개발자들은 사용자 행동과 비즈니스 데이터를 얻은 후에만 작업이 완료되었다고 간주한다. 배포 이후에도 PM, 데이터 과학자 및 고객 지원 채널과 계속해서 소통하여 실제 세계에서 기능이 어떻게 사용되고 있는지 알아본다.

9️⃣ 반복 학습을 통한 강력한 제품 직감력
제품 중심 개발자에게 프로젝트는 일반적으로 다음과 같이 진행된다.

    • 이 기능이 왜 필요한지 정확히 이해하기 위해 많은 질문을 던진다.
    • 이를 테스트하고 수정된 사양에 포함된 일부 제안을 가져온다.
    • 빠르게 기능을 구축하고 피드백을 얻는다.
    • 기능을 출시한 후에도 예상과 일치하는지 계속해서 확인한다.
    • 예상과 달랐을 때, 결과를 깊이 파고들어 실제 세계에서의 제품 사용에 대해 새로운 것을 배운다.

각 프로젝트 이후, 제품 이해력이 깊어지고 더 나은 제품 직감력을 개발하기 시작한다. 시간이 흘러 프로젝트가 시작되기도 전에 상담을 받으려는 PM들의 요청이 늘어나면서 팀 밖에서 강한 평판을 쌓게 된다. 이 과정에서 제품 중심 개발자는 더 많은 커리어 성장 기회를 얻는다.

📌 제품 중심 개발자가 되기 위한 팁
사용자가 있는 제품을 개발하고 있다면, 제품 중심 마인드를 키우는 데 도움이 되는 몇 가지 팁이 있다. 이러한 팁은 제품 중심 개발자로 성장하는 데 효과적인 것으로 보인다.

1️⃣ 회사가 성공하는 이유를 이해하기. '비즈니스 모델은 무엇인가?' '어떻게 수익을 창출하나?' '어떤 부분이 가장 이윤이 많으며 어떤 부분이 가장 확장되고 있나? 왜 그럴까?'

2️⃣ PM과 좋은 관계를 구축하기. 대부분의 PM은 개발자를 멘토링할 기회에 기뻐한다. 개발자들이 제품에 관심을 가지면 자신의 역량을 확장할 수 있다. 물론 제품 관련 질문을 많이 하기 전에 좋은 관계를 구축하고, PM에게 제품에 더 많이 관여하고 싶다고 분명히 전하는 것이 좋다.

3️⃣ 사용자 리서치, CS 등 제품 작동 방식에 대해 자세히 알아보기. 디자이너, UX 디자이너, 데이터 과학자, 운영 팀 등, 사용자와 자주 상호 작용하는 사람들과 함께 작업한다.

4️⃣ 타당한 제안 제시하기. 비즈니스, 제품 및 이해관계자에 대한 좋은 이해를 갖게된 후에는 제품 개발에 대한 이니셔티브를 가져갈 수 있다.

5️⃣ 작업 중인 프로젝트에 대한 제품/엔지니어링 트레이드오프를 제공하기. 팀이 구축하려는 제품 기능에 대한 엔지니어링 트레이드오프뿐만 아니라 엔지니어링 노력을 줄일 수 있는 제품 트레이드오프도 제안한다. 그리고 이에 대한 피드백을 적극적으로 받는다.

6️⃣ PM에게 피드백 자주 요청하기. 훌륭한 제품 중심 개발자가 되기 위해서는 기존의 엔지니어링 기술에 더해 제품 기술을 개발해야 한다. 제품 기술에 대한 당신의 성과를 어떻게 평가하는지 가장 잘 아는 사람은 PM이다. 제품 제안이 얼마나 가치 있는지에 대한 피드백을 얻고, 추가 성장을 위한 아이디어를 얻기 위해 PM에게 연락한다.

번역: https://www.jobless.blog/product-minded-engineer/?ref=careerly

원글: https://blog.pragmaticengineer.com/the-product-minded-engineer

Jobless Han 🏄🏻‍♂️

제품 중심 개발자

PowerPoint Presentation

라지 시스템을 구현하고 운영 및 관리하는 개발자의 조언을 읽어보고 정리해서 올립니다.

1. 코드 작성과 시스템 설계 시작 전 아이디어를 브레인스톰해보고 간단하게 적어본다.
2. 구축하려는 시스템 관련 전문 지식이 많은 사람과 화이트보드 세션을 진행하고 충분한 검토 과정을 거친다.

📌 추가: '설계 검토' 기간이 길어지게 되면 급한 마음에 충분히 피드백을 반영하지 않고 급하게 시스템을 구축하는 경우가 생기는 것 같아요. 하지만 잘못된 (또는 미완성된) 설계를 바탕으로 시스템을 구현하면 나중에 문제가 생기고, 문제를 고치는 데 많은 시간을 낭비하게 되고 최악의 경우에는 시스템을 처음부터 새로 구현해야 할 수 있습니다. 이해관계자와 검토를 효과적으로 그리고 빠르게 하고 피드백을 충분히 반영한 후 완성된 설계를 바탕으로 구현하면 버그 고치는 데 드는 비용이 더 적습니다. 관련 글은 아래 '함께 읽으면 좋은 글'을 참조해 주세요.

3. 여러 가지 설계 옵션을 파악하고, 각 옵션의 절충점을 이야기 해본다.

📌 추가: 주니어시절 가장 많이 하는 실수는 여러 옵션을 파악하지 않고 절충점을 따지지 않는 것입니다. 장기적으로 봤을 때 좋은 옵션이 아닐 수 있고, 추후에 설계나 코드 작성을 다시 해야 하는 경우가 생깁니다. 따라서 한 문제를 직면했을 때 가능한 여러가지 옵션을 간단하게 적어 보고 절충점을 따져 보는 것이 좋은 것 같습니다. 

4. 가상 사용 케이스를 예상해 본다.
5. 시스템의 인터페이스를 잘 생각해 보고 좋은 인터페이스를 디자인해야 한다.
6. 최상의 솔루션을 채택하고 시스템 성능을 추정할 줄 아는 스킬은 중요하다.
7. 시스템을 설계하기 전 성능을 미리 예측해야 한다(예: back-of-envelope-calculations). (계산 관련 슬라이드 참고)

📌 추가: RPS와 Storage Utilization 계산법은 기본적으로 알아두는 게 좋습니다.

8. 진화할 수 있는 시스템에 미리 대응해 본다. 시스템이 10배 더 크게 확장되어도 잘 작동되어야 한다.
9. 기본 개발 구성 요소에 대해 잘 알고 있기. 예를 들어 코어 라이브러리, 기본 자료 구조, SSTables, protocol buffers, BigTables, MySQL, MapReduce. 그냥 기본 개념을 이해하는 게 아니라 어떻게 구현되는지 자세하게 알아야 한다.

📌 추가: 표면적으로 개념을 이해하는 것보다 깊게 파고들어 조금 더 많은 정보를 알게 되면 라지 스케일 시스템 개발, 운영 및 관리에 큰 도움이 됩니다. 슬라이드에는 간단하게 몇 가지 개념만 언급했지만, 궁금하신 분들은 관련 개념을 좀 더 자세하게 알아 보거나 라지 시스템 설계 관련 책을 읽어보면 좋을 것 같아요 (책 추천은 아래 '함께 읽으면 좋은 글'을 확인해 주세요).

10. 모든 요구 사항을 다 충족하는 시스템을 설계하려고 하지 말자.
11. Caching, parallelism을 통해 low latency 요구 사항 충족시키기.
12. Eventual Consistency와 Strong Consistency 모델 이해하기.
13. 데이터 엑세스 타임 이해하기.
14. 장애에 튼튼한 앱 구현하기 (Canary, 레플리케이션, load balancing).
15. 장애 발생시 전체 운영 중단 보다 부분 기능이 작동하는 것이 더 나은 유저 경험을 제공한다.
16. 충분한 모니터링, 로깅 그리고 디버깅 훅 추가하기. 

https://static.googleusercontent.com/media/research.google.com/en//people/jeff/stanford-295-talk.pdf

🪴 함께 읽으면 좋은 글

좋은 개발자가 알아야 할 버그 고치는데 드는 비용
https://careerly.co.kr/comments/75848

개발자가 꼭 봐야 할 책 - 데이터 중심 애플리케이션 설계
https://careerly.co.kr/comments/67004

초당 1억 건의 요청 S3 스케일의 스토리지 구축, 운영, 관리
https://careerly.co.kr/comments/88808

실력 향상을 위한 해외 유튜브 채널 10개
https://careerly.co.kr/comments/88786

개발자 성장에 도움 될 테크 블로그
https://careerly.co.kr/comments/87704

googleusercontent.com

라지 스케일 시스템을 구현하는 개발자가 아는 것

자바스크립트 개발자를 위한 package.json 파일 정리

백엔드와 프론트엔드를 불문하고 대부분의 자바스크립트 프로젝트에는 최상위 경로에 `package.json` 파일이 있는데요. 그런데 혹시 이 파일이 언제 어떻게 사용되는지를 정확히 알고 계신가요?

`package.json` 파일은 쉽게 말해서 우리의 자바스크립트 프로젝트를 npm 패키지 저장소와 상호 작용할 수 있도록 만들어주는 중요한 연결 고리인데요. 우리는 `package.json` 파일을 통해 npm 패키지 저장소로부터 어떤 패키지를 내려받아 설치해야 하는지, 또한 우리의 프로젝트를 다른 프로젝트에서 사용할 수 있도록 어떻게 npm 패키지 저장소에 올릴 것인지를 설정할 수 있습니다. 그러므로 `package.json` 파일에는 패키지 사용자 입장에서 설정이 필요한 부분이 있고, 패키지 발행자 입장에서 추가로 설정이 필요한 부분도 있죠.

여러분이 개발하시는 자바스크립트 프로젝트가 npm 패키지 저장소로 부터 패키지를 내려 받기만 한다면, `package.json` 파일에 대해서 아셔야 할 내용이 사실 얼마되지 않아요. `scripts`, `dependencies`, `devDependencies` 필드 정도만 아시면 충분할 것입니다.

하지만 개발하시는 자바스크립트 프로젝트를 npm 패키지 저장소에 올려서 다른 사람들도 쓸 수 있도록 공개하시고 싶다면, `package.json` 파일에 대해서 잘 알고 계셔야 하는데요. 그래서 이번 글에서는 자바스크립트 개발자로서 알아두면 좋은 `package.json` 파일에 대해서 자주 사용되는 필드 위주로 정리해보겠습니다.

📝 포스팅: https://www.daleseo.com/js-package-json/

Daleseo

기존에는 Node.js와 익스프레스를 사용해 웹 서버를 구축하고 서비스를 만들었습니다. 익스프레스를 사용해서 서버를 구축할 때, 먼저 고민했던 부분이 무엇이었나요? 바로 디렉터리 구조입니다. 별거 아닌 것 같지만 구조에 따라서 아키텍처가 변경되므로 간단한 문제는 아닙니다. NestJS는 이러한 문제를 해결한 웹 서버 프레임워크입니다. NestJS는 서버 개발 시의 아키텍처를 누구든 비슷하게 설계하도록 아키텍처 문제를 해결하는 데 중점을 두고 있습니다.

Node.js의 새로운 파트너 NestJS는 왜 탄생했을까? | 요즘IT

💭
Java Spring 이나 다른 언어의 백엔드 프레임워크를 다뤄보신 분들은 처음 Node.js 로 백엔드 개발을 접했을 때 당혹스러울 수 있습니다. 저는 그 이유가 지금까지는 Node.js 백엔드 생태계에 압도적인 퍼포먼스를 보여주는 프레임워크 없이 express.js 나 fastify 와 같은 경량형 라이브러리를 통해 많은 기능들을 직접 구현하거나 npmjs 를 통해 필요한 것들을 직접 추가하여 구현에 포함시키는 방식이 통상적으로 사용되었기 때문이라고 봅니다.

개인적으로는 express.js 류는 프레임워크라고 하기 보다는 서버 구성을 편리하게 하는 라이브러리 집합이라고 보는 것이 옳을 것 같고 Next.js 의 경우는 정확하게는 React.js 를 랩핑한 프론트엔드 프레임워크에 가깝습니다. 따라서 예전에 Node.js 백엔드 개발자로 오랜 기간 살아갈 떄도 "제발 누가 Node.js + TypeScript 백엔드 프레임워크 만들어줘~~~" 노래를 불렀던 기억이 있네요.

Nest.js는 알게된지 한 4년 정도 되었는데, 그동안 관련 소식들을 꾸준히 Follow-up 하고 있었고 국내에서도 사용하는 기업들이 늘어나고 있어서 언젠가는 국내에서도 괜찮은 생태계가 조성될 것 같다는 근거 없는 믿음이 좀 있습니다. Nets.js의 백엔드 동작 방식은 다른 언어나 프레임워크의 동작 방식과 조금 다른 생소한 개념들이 일부 있지만 (Module 이라던지.. Provider 라던지...) 그 외 나머지 것들은 시장을 지배하고 있는 프레임워크에서 아이디어를 가져온 것들이 많아 생각보다 금방 적응 할 수 있습니다. (특히 Spring Boot 개발자들이라고 생각함 ㅇㅇ..)

아무튼 Node.js 로 조금 더 단단한 백엔드 아키텍쳐와 효율적인 생산성을 고민하고 있다면 Nest.js 한번 알아보시는 것도...? ㅎㅎ

Wishket

🔥 Nest.js 붐은 반드시 온다.

Bun 1.0

Node보다 5배 빠른 Bun이 드디어 1.0 정식 릴리즈가 되었습니다.
https://bun.sh/blog/bun-v1.0

---
Bun 1.0 is finally here.

Bun is a fast, all-in-one toolkit for running, building, testing, and debugging JavaScript and TypeScript, from a single file to a full-stack application. Today, Bun is stable and production-ready.
---

Bun은 Node의 역할을 대체하면서 동시에 Node와 달리 Typescript와 JSX 컴파일러를 기본으로 탑재를 하고 있습니다.

Bun의 가장 큰 특징은 단언컨데 성능이구요. 최소 4배에서 6배까지 더 나은 성능을 낸다고 하네요.

그리고 Hot Reloading을 지원해서 코드 수정시 즉각 코드에 반영되는 기능도 기본 기능으로 탑재하고 있습니다.

앞으로 Node을 얼마나 대체할 수 있을지 Deno와는 다른 행보를 어떻게 이어갈지 궁금해지네요.

ps.
개인적으로 최근에는 Node쪽 개발을 안하다보니 Bun으로 개발 찍먹보다는,
Vite를 Bun으로 한번 돌려보는 것은 해보려고 합니다.
https://bun.sh/guides/ecosystem/vite

Next.js도 Bun으로 돌릴 수 있어요. Bun의 성능체감은 느껴볼 수 있지 않을까 생각봅니다.
https://bun.sh/guides/ecosystem/nextjs

Bun 1.0 is finally here

모던 바닐라 자바스크립트로 본 반응성을 구현하는 패턴 | bohyeon.dev

오늘 소개해드릴 글은 메디스트림의 서보현님이 번역해주신 글입니다. 현재 프런트엔트 생태계에는 다양한 프레임워크와 그에 따른 반응형 시스템이 있습니다. 유저의 상호작용과 서버와의 통신, UI 업데이트 등 일련의 작업을 처리함에 있어 핵심은 반응성을 구현하는 방식에 있다고 할 수 있습니다. 이번 글은 반응형 시스템을 구현하는 데 활용할 수 있는 패턴과, 구현을 위한 자바스크립트의 다양한 내장 기능을 소개하고 있습니다. 바닐라 자바스크립트를 사용해 직접 반응형 시스템을 구축해보는데 더해 최신의 방법을 활용해 효과적으로 반응성을 구현해보고자 한다면 읽어보기 좋은 글입니다.

> 글 링크: https://bit.ly/pretvty

Ktseo41

모던 바닐라 자바스크립트로 본 반응성을 구현하는 패턴

제리가 만나러 갑니다! 오늘도 당근에서 개발자로 재직하고 계신 ✨초특급 파워블로거✨ 하조은님을 만났습니다! 조은님이 생각하는 개발 로드맵은 어떤건지, 커리어 패스는 어떻게 쌓아가면 좋을지 함께 이야기 나누었습니다🙌🏻 오늘도 재밌게 보셨다면 좋댓구알 부탁드려요🥕 #당근마켓 #개발자 #인터뷰 #하조은 #제만갑 #IT 🥕조은님 1편 보러가기 https://youtu.be/yV4i3-uuxxw 🧑🏻‍💻하조은님 블로그 https://hajoeun.b

당근샐러드 개발자가 제안하는 개발 로드맵 | 제만갑 | 하조은 | 당근마켓 | 네카라쿠배당토 | IT | 프로그래밍 | 엔지니어 | 블로그 | ENTJ | 연봉 | 뱅크샐러드

2편은 '당근샐러드 개발자가 제안하는 개발 로드맵'이라는 제목으로 정리해주셨네요. 유튜브 특성에 맞춰 유머와 과장이 포함된 제목인 점 이해해주세요. 

실제론 개발 로드맵에 대해선 정답이 없는 것 같다는 내용을 담고 있습니다. 그 외에도 개발자의 커리어, 도메인, 역량 등에 대해 이야기 나눴습니다. 제가 이해하고 있는 것만 이야기하려고 노력했습니다! 재밌게 봐주세요.

https://youtu.be/gYPOhwi87AU?si=g2t2nIRS8FwAET1n

📺 개발 로드맵, 정답이 있다고 믿고 싶은 게 아닐까요?

개발자라면 공부는 해야 한다. 언제까지 구닥다리 방식으로 개발 운영할 건데? 오늘 짠 내 코드 내일이면 리거시다.

그래도 팀내 개발자가 맨날 컨퍼런스 간다하고 세미나만 하면 속 터지긴 한다. 일은 해야지?

그래서 내가 만든 룰은 그라운드 리서치도 지라로 만들어서 배정하고 아래 같은 분위기를 조성한다. 

- 내가 참석한 컨퍼런스 기술 이벤트의 전파교육은 필수, 문서화 정리도 필수, 실무적용도 필수다. 적어도 말미에 실무에 적용할 것들을 뽑아보라고 한다. 
- 스터디는 주제를 정해 팀스터디로 진행한다. 그래도 장애가 났는데, 주요 프로젝트 배포를 해야 하는데 세미나? 말도 안된다. 끊거나 중단하고 문제해결부터 하고 재개한다. 
- 되도록 회사의 기술 챌린지를 공유하고 이걸 해결하는 방향으로 스터디 주제를 권유한다. JPA 도입, 쿠버네티스 전환 등등 
- 내가 시간이 안되면 주변 CTO 나 기술리더 품앗이로 구루 세미나를 한다. 
- 관심분야를 물어보고 되도록 그 분야 일을 맡겨서 일로 배우게 유도한다. 

물론 모두 당사자가 공부하고 내 걸로 만들길 좋아하는 경우다. 억지로 공부 시켜봤자 욕만 먹는다. 그리고 주어진 일은 잘 하는데 공부하는 거 싫어하는 분들 있다. 뭐 나름 장점 있지만 그럼 리더감은 아니다. 

그럼 스스로는 어떻게 공부하냐고? 일단 난 호기심이 많다. 그리고 내가 관심 있는 분야인데 저 사람이 아는데 내가 모르는게 너무 싫다. 

내 공부 방식은 일단 개념잡기와 abstract 읽기, 상세 읽기 후에 how to start 시도. 일단 짜보고 시작하는 경우들도 많은데 난 좀 반대다. 컨셉 이해하고 상세를 봐야 감이 오는 스타일? 

아무튼 이 놈의 직업은 평생 공부는 해야 하는 직업! 그래도 아직 놓고 싶지는 않으니 은퇴까지는 열공!!

개발자 자기계발 & 일의 밸런싱

소문난 잔치 먹을 게 없네...애플TV+와 디즈니+, 오리지널은 70편뿐

저는 디즈니 플러스를 재밌게 봤습니다. 자막이 이상하긴 한데 그래도 컨텐츠는 대단하더라구요. 앞으로 나올 수많은 콘텐츠들도 기대합니다. 
반면에 애플TV 플러스는 조금 애매하더군요. 닥터브레인을 재밌게 봤는데, 콘텐츠를 순차 공개하니 한번에 전편을 공개하는 넷플릭스에 비해 기다리는 시간이 더해졌습니다.
당장 HBO 맥스를 비롯하여 앞으로 더 많은 글로벌 OTT가 한국에 들어올텐데 한국의 OTT는 어떻게 될지 궁금합니다.

Naver

대기업에서 스타트업으로! 백오피스에서 퍼포먼스 마케터! 제 2의 커리어를 쌓아가고  있습니다. 저만 알기 아까운 지식과 경험을 다양한 콘텐츠 형태로 공유하고자 "프로젝트 톰"을 운영하고 있습니다.

Senior PM

유동완

대기업에서 스타트업으로! 백오피스에서 퍼포먼스 마케터! 제 2의 커리어를 쌓아가고  있습니다. 저만 알기 아까운 지식과 경험을 다양한 콘텐츠 형태로 공유하고자 "프로젝트 톰"을 운영하고 있습니다.
#그로스마인드셋 #그로스마케팅 #데이터분석 #도전적인 #독서

Product Marketing Team Lead

이재문

마케팅 테크놀로지 기업 AB180의 프로덕트 마케팅 팀 리드를 맡고 있습니다.

댓글 0