당신이 꼭 사용해보았으면 좋을 DATA/AI 도구 리스트를 소개합니다.

Archive(저장) - 노션 (Notion)
Summary(요약) - 릴리즈 AI, MyLens AI
Presentation(발표) - 감마 AI, 캔바, 톰 AI
LLM (대규모언어모델) - 챗지피티, 클라우드, 펄프랙시티

더 자세한 소개와 내용이 궁금하다면 아래에 링크로 첨부한
링크드인 뉴스레터를 읽어보세요.

https://www.linkedin.com/pulse/datarichard-%EB%89%B4%EC%8A%A4%EB%A0%88%ED%84%B0-202410-richard-lim-1xqoc/

당신이 꼭 사용해보았으면 좋을 DATA/AI 도구 리스트를 소개합니다. Archive(저장) - 노션 (Notion)Summary(요약) - 릴리즈 AI, MyLens AIPresentation(발표) - 감마 AI, 캔바, 톰 AILLM (대규모언어모델) - 챗지피티, 클라우드, 펄프랙시티 더 자세한 소개와 내용이 궁금하다면 아래에 링크로 첨부한 링크드인 뉴스레터를 읽어보세요. https://www.linkedin.com/pulse/datarichard-%EB%89%B4%EC%8A%A4%EB%A0%88%ED%84%B0-202410-richard-lim-1xqoc/

당신이 꼭 사용해보았으면 좋을 DATA/AI 도구 리스트

Notion을 알고 사용한 이후로 제 삶은 많이 바뀌었습니다. 너무 편리함
https://myperfecthotel.io

에이전틱 AI, 포스트 양자 암호, AI 거버넌스, 하이브리드 컴퓨팅 등이 기업에게 시급하거나 잠재적으로 파괴적인 트렌드들이라고 가트너가 제시했다.

“몇 년 내 판도 바꿀 동향은…” 가트너, 전략 기술 10가지 제시

가트너는 매년 기업 고객이 향후 몇 년간 주목해야 할 인기 기술에 대한 전망을 발표한다. 올랜도에서 열린 가트너의 연례 IT 심포지엄/엑스포에서 향후 몇 년 동안 주목해야 할 10대 전략을 제시했다.

🚨 에이전트 AI
2028년에는 최소 15%의 일상적인 업무 결정이 에이전틱 AI를 통해 자율적으로 이뤄진다고 가트너는 예측한다. 에이전틱 AI는 AI 어시스턴트에 통합되고 소프트웨어, SaaS 플랫폼, IoT 디바이스, 로봇 공학에 내장된다는 관측이다. 이미 많은 스타트업이 스스로를 AI 에이전트 구축 플랫폼으로 마케팅하고 있으며, 하이퍼스케일러는 AI 비서에 에이전트 AI를 추가하고 있다고 가트너는 설명했다.

“AI의 지능형 에이전트는 더 빠른 데이터 분석과 예측 인텔리전스를 통해 조직의 의사 결정을 바꾸고 상황 인식을 개선할 것이다. 사용자가 잠자는 동안 에이전틱 AI는 회사의 시스템 5개를 살펴보고 사용자가 할 수 있는 것보다 훨씬 더 많은 데이터를 분석하여 필요한 조치를 결정할 수 있다”

🚨 AI 거버넌스 플랫폼
AI 거버넌스 플랫폼의 장점 중 하나는 AI 관련 윤리적 사고를 방지할 수 있다는 점이다. 2028년까지 포괄적인 AI 거버넌스 플랫폼을 구현하는 조직은 이러한 시스템이 없는 조직에 비해 AI 관련 윤리적 사고가 40% 감소할 것으로 가트너는 예측했다.

AI 거버넌스 플랫폼은 조직이 견고성, 투명성, 공정성, 책임성 및 위험 규정 준수를 모니터링하는 관행과 기술 도구를 조합하여 AI의 법적, 윤리적, 운영 성과를 관리 및 감독할 수 있도록 지원함으로써 책임감 있는 AI를 촉진한다.

🚨 허위 정보 보안
가트너에 따르면, 이는 신뢰를 체계적으로 식별하고 무결성 보장, 진위 여부 평가, 사칭 방지 및 유해 정보의 확산 추적을 위한 방법론적 시스템을 제공하는 것을 목표로 새롭게 정의된 기술 범주다.

“AI와 머신러닝 도구의 발전과 광범위한 가용성으로 인해 기업을 노리는 허위 정보 사고가 증가할 것으로 예상된다. 이를 방치할 경우, 잘못된 정보는 모든 조직에 심각하고 지속적인 피해를 입힐 수 있다”

🚨 포스트 양자 암호화
2029년이면 양자 컴퓨팅의 발전으로 인해 대부분의 기존 비대칭 암호화가 안전하지 못할 것으로 가트너는 예측했다. 이에 따라 양자 컴퓨팅 복호화 위험에 저항하는 데이터 보호 기능을 제공하는 포스트퀀텀 암호화의 중요성이 강조되고 있다.

비대칭 암호화는 거의 모든 소프트웨어, 전 세계 수십억 대의 디바이스, 그리고 인터넷을 통한 대부분의 통신에 사용되고 있다. 가트너는 최근 보고서에서 ‘선수집, 후복호화’ 공격이 이미 존재할 수 있다고 밝혔다. 포스트 양자 암호화 채택에 따르는 어려움 중 하나는 대안 자체의 문제다. “현재 암호화 알고리즘을 대체할 수 있는 쉬운 대안이 없다. 탐색, 분류, 재구현의 필요성이 대두될 것이며, 이러한 문제를 해결하고 새로운 알고리즘으로 원활하게 전환하려면 알고리즘 대체, 데이터 보존, 기존 암호화 사용의 교체 또는 수정 메커니즘에 대한 정책을 개발하는 것부터 시작해야 한다. 정책 기반 프로그램은 혼란과 자의적인 선택을 줄이고 관리 효율성을 높일 수 있다”

🚨 하이브리드 컴퓨팅
컴퓨팅, 스토리지, 네트워크 메커니즘을 결합하여 복잡한 계산 문제를 해결하는 시스템으로 정의되는 하이브리드 형태의 컴퓨팅은 AI와 같은 기술이 현재의 기술적 한계를 뛰어넘는 성능을 발휘할 수 있도록 지원할 전망이다.

🚨 에너지 효율적 컴퓨팅
IT는 지속 가능성에 다각적으로 영향을 미치며, 2024년 대부분의 IT 조직은 탄소 발자국을 중대하게 감안해야 할 것이. AI 교육, 시뮬레이션, 최적화, 미디어 렌더링과 같은 컴퓨팅 집약적인 애플리케이션이 특히 많은 에너지를 소비하기 때문에 조직의 탄소 발자국에 큰 영향을 미칠 것이라고 말했다.

오늘날 일반적으로 사용되는 그린 컴퓨팅 기술의 예로는 더 적은 에너지를 필요로 하는 애플리케이션 아키텍처, 코드 및 알고리즘 활용, 새롭고 더 효율적인 하드웨어 채택, 친환경 전력 사용 등이 있다. 앞으로는 아직 연구 단계에 있는 새로운 컴퓨팅 플랫폼을 비롯한 더 발전된 기술이 등장할 것이라고 가트너는 전망했다.

🚨 앰비언트 인비저블 인텔리전스
엠비언트 인비저블 인텔리전스(Ambient invisible intelligence)은 다양한 사물과 환경의 위치와 상태를 추적하기 위해 작고 저렴한 태그와 센서를 광범위하게 사용하는 것을 의미한다.

소매 재고 확인이나 부패하기 쉬운 상품 물류와 같은 즉각적인 문제 해결에 초점을 맞춘 초기 사용 사례가 2027년까지 영역을 넓힌다. 저비용의 실시간 추적 및 감지 기능을 통해 가시성과 효율성을 개선할 것이라고 가트너는 전망했다.

🚨 공간 컴퓨팅
공간 컴퓨팅은 증강현실 및 가상현실과 같은 기술을 통해 물리적 세계를 디지털 방식으로 개선한다. 공간 컴퓨팅의 확산은 주로 간소화된 워크플로우와 향상된 협업을 통해 향후 5~7년 내에 조직의 효율성을 높일 전망이다. 2033년이면 공간 컴퓨팅 분야는 1조 7,000억 달러로 성장할 것으로 가트너는 예측했다. 2023년은 1,100억 달러였다.

🚨 다기능 로봇
두 가지 이상의 작업을 수행할 수 있는 다기능 로봇(Polyfunctional robots) 시스템이 단일 작업을 반복적으로 수행하도록 맞춤 설계된 작업별 로봇을 대체하고 있다. 다기능 로봇은 인간과 함께 작동하도록 설계되기에 빠른 배포와 손쉬운 확장이 가능하다는 특징을 지닌다.

가트너는 2030년에는 인간의 80%가 매일 스마트 로봇을 사용할 것으로 예측하고 있다. 현재는 10% 미만이다.

🚨 신경학적 향상
신경학적 향상(Neurological enhancement)은 뇌 활동을 읽고 해독하는 기술을 사용하여 인간의 인지 능력을 향상시키는 범주다. 단방향 뇌-기계 인터페이스 또는 양방향 뇌-기계 인터페이스(BBMI)를 사용하여 사람의 뇌를 읽는 형태다.

이러한 기술은 인간 업스킬링, 차세대 마케팅, 퍼포먼스 등 세 가지 주요 영역에서 큰 잠재력을 가지고 있다. 신경학적 향상은 인지 능력을 향상시키고, 브랜드가 소비자의 생각과 감정을 파악하고, 인간의 신경 능력을 향상시켜 결과를 최적화할 수 있게 해줄 것으로 관측된다.

2030년이면 지식 작업자의 30%가 직장 내 AI의 부상에 따라 업무 적합성을 유지하기 위해 BBMI와 같은 기술을 사용하게 될 것으로 가트너는 예측했다.

 * 출처:https://www.cio.com/article/3576217/%eb%aa%87-%eb%85%84-%eb%82%b4-%ed%8c%90%eb%8f%84-%eb%b0%94%ea%bf%80-%eb%8f%99%ed%96%a5%ec%9d%80-%ea%b0%80%ed%8a%b8%eb%84%88-%ec%a0%84%eb%9e%b5-%ea%b8%b0%ec%88%a0-10.html

가트너는 매년 기업 고객이 향후 몇 년간 주목해야 할 인기 기술에 대한 전망을 발표한다. 올랜도에서 열린 가트너의 연례 IT 심포지엄/엑스포에서 향후 몇 년 동안 주목해야 할 10대 전략을 제시했다. 🚨 에이전트 AI2028년에는 최소 15%의 일상적인 업무 결정이 에이전틱 AI를 통해 자율적으로 이뤄진다고 가트너는 예측한다. 에이전틱 AI는 AI 어시스턴트에 통합되고 소프트웨어, SaaS 플랫폼, IoT 디바이스, 로봇 공학에 내장된다는 관측이다. 이미 많은 스타트업이 스스로를 AI 에이전트 구축 플랫폼으로 마케팅하고 있으며, 하이퍼스케일러는 AI 비서에 에이전트 AI를 추가하고 있다고 가트너는 설명했다. “AI의 지능형 에이전트는 더 빠른 데이터 분석과 예측 인텔리전스를 통해 조직의 의사 결정을 바꾸고 상황 인식을 개선할 것이다. 사용자가 잠자는 동안 에이전틱 AI는 회사의 시스템 5개를 살펴보고 사용자가 할 수 있는 것보다 훨씬 더 많은 데이터를 분석하여 필요한 조치를 결정할 수 있다” 🚨 AI 거버넌스 플랫폼AI 거버넌스 플랫폼의 장점 중 하나는 AI 관련 윤리적 사고를 방지할 수 있다는 점이다. 2028년까지 포괄적인 AI 거버넌스 플랫폼을 구현하는 조직은 이러한 시스템이 없는 조직에 비해 AI 관련 윤리적 사고가 40% 감소할 것으로 가트너는 예측했다. AI 거버넌스 플랫폼은 조직이 견고성, 투명성, 공정성, 책임성 및 위험 규정 준수를 모니터링하는 관행과 기술 도구를 조합하여 AI의 법적, 윤리적, 운영 성과를 관리 및 감독할 수 있도록 지원함으로써 책임감 있는 AI를 촉진한다. 🚨 허위 정보 보안가트너에 따르면, 이는 신뢰를 체계적으로 식별하고 무결성 보장, 진위 여부 평가, 사칭 방지 및 유해 정보의 확산 추적을 위한 방법론적 시스템을 제공하는 것을 목표로 새롭게 정의된 기술 범주다. “AI와 머신러닝 도구의 발전과 광범위한 가용성으로 인해 기업을 노리는 허위 정보 사고가 증가할 것으로 예상된다. 이를 방치할 경우, 잘못된 정보는 모든 조직에 심각하고 지속적인 피해를 입힐 수 있다” 🚨 포스트 양자 암호화2029년이면 양자 컴퓨팅의 발전으로 인해 대부분의 기존 비대칭 암호화가 안전하지 못할 것으로 가트너는 예측했다. 이에 따라 양자 컴퓨팅 복호화 위험에 저항하는 데이터 보호 기능을 제공하는 포스트퀀텀 암호화의 중요성이 강조되고 있다. 비대칭 암호화는 거의 모든 소프트웨어, 전 세계 수십억 대의 디바이스, 그리고 인터넷을 통한 대부분의 통신에 사용되고 있다. 가트너는 최근 보고서에서 ‘선수집, 후복호화’ 공격이 이미 존재할 수 있다고 밝혔다. 포스트 양자 암호화 채택에 따르는 어려움 중 하나는 대안 자체의 문제다. “현재 암호화 알고리즘을 대체할 수 있는 쉬운 대안이 없다. 탐색, 분류, 재구현의 필요성이 대두될 것이며, 이러한 문제를 해결하고 새로운 알고리즘으로 원활하게 전환하려면 알고리즘 대체, 데이터 보존, 기존 암호화 사용의 교체 또는 수정 메커니즘에 대한 정책을 개발하는 것부터 시작해야 한다. 정책 기반 프로그램은 혼란과 자의적인 선택을 줄이고 관리 효율성을 높일 수 있다” 🚨 하이브리드 컴퓨팅컴퓨팅, 스토리지, 네트워크 메커니즘을 결합하여 복잡한 계산 문제를 해결하는 시스템으로 정의되는 하이브리드 형태의 컴퓨팅은 AI와 같은 기술이 현재의 기술적 한계를 뛰어넘는 성능을 발휘할 수 있도록 지원할 전망이다. 🚨 에너지 효율적 컴퓨팅IT는 지속 가능성에 다각적으로 영향을 미치며, 2024년 대부분의 IT 조직은 탄소 발자국을 중대하게 감안해야 할 것이. AI 교육, 시뮬레이션, 최적화, 미디어 렌더링과 같은 컴퓨팅 집약적인 애플리케이션이 특히 많은 에너지를 소비하기 때문에 조직의 탄소 발자국에 큰 영향을 미칠 것이라고 말했다. 오늘날 일반적으로 사용되는 그린 컴퓨팅 기술의 예로는 더 적은 에너지를 필요로 하는 애플리케이션 아키텍처, 코드 및 알고리즘 활용, 새롭고 더 효율적인 하드웨어 채택, 친환경 전력 사용 등이 있다. 앞으로는 아직 연구 단계에 있는 새로운 컴퓨팅 플랫폼을 비롯한 더 발전된 기술이 등장할 것이라고 가트너는 전망했다. 🚨 앰비언트 인비저블 인텔리전스엠비언트 인비저블 인텔리전스(Ambient invisible intelligence)은 다양한 사물과 환경의 위치와 상태를 추적하기 위해 작고 저렴한 태그와 센서를 광범위하게 사용하는 것을 의미한다. 소매 재고 확인이나 부패하기 쉬운 상품 물류와 같은 즉각적인 문제 해결에 초점을 맞춘 초기 사용 사례가 2027년까지 영역을 넓힌다. 저비용의 실시간 추적 및 감지 기능을 통해 가시성과 효율성을 개선할 것이라고 가트너는 전망했다. 🚨 공간 컴퓨팅공간 컴퓨팅은 증강현실 및 가상현실과 같은 기술을 통해 물리적 세계를 디지털 방식으로 개선한다. 공간 컴퓨팅의 확산은 주로 간소화된 워크플로우와 향상된 협업을 통해 향후 5~7년 내에 조직의 효율성을 높일 전망이다. 2033년이면 공간 컴퓨팅 분야는 1조 7,000억 달러로 성장할 것으로 가트너는 예측했다. 2023년은 1,100억 달러였다. 🚨 다기능 로봇두 가지 이상의 작업을 수행할 수 있는 다기능 로봇(Polyfunctional robots) 시스템이 단일 작업을 반복적으로 수행하도록 맞춤 설계된 작업별 로봇을 대체하고 있다. 다기능 로봇은 인간과 함께 작동하도록 설계되기에 빠른 배포와 손쉬운 확장이 가능하다는 특징을 지닌다. 가트너는 2030년에는 인간의 80%가 매일 스마트 로봇을 사용할 것으로 예측하고 있다. 현재는 10% 미만이다. 🚨 신경학적 향상신경학적 향상(Neurological enhancement)은 뇌 활동을 읽고 해독하는 기술을 사용하여 인간의 인지 능력을 향상시키는 범주다. 단방향 뇌-기계 인터페이스 또는 양방향 뇌-기계 인터페이스(BBMI)를 사용하여 사람의 뇌를 읽는 형태다. 이러한 기술은 인간 업스킬링, 차세대 마케팅, 퍼포먼스 등 세 가지 주요 영역에서 큰 잠재력을 가지고 있다. 신경학적 향상은 인지 능력을 향상시키고, 브랜드가 소비자의 생각과 감정을 파악하고, 인간의 신경 능력을 향상시켜 결과를 최적화할 수 있게 해줄 것으로 관측된다. 2030년이면 지식 작업자의 30%가 직장 내 AI의 부상에 따라 업무 적합성을 유지하기 위해 BBMI와 같은 기술을 사용하게 될 것으로 가트너는 예측했다. <ul ><li>출처:https://www.cio.com/article/3576217/%eb%aa%87-%eb%85%84-%eb%82%b4-%ed%8c%90%eb%8f%84-%eb%b0%94%ea%bf%80-%eb%8f%99%ed%96%a5%ec%9d%80-%ea%b0%80%ed%8a%b8%eb%84%88-%ec%a0%84%eb%9e%b5-%ea%b8%b0%ec%88%a0-10.html</li></ul>

[CIO] “몇 년 내 판도 바꿀 동향은…” 가트너, 전략 기술 10가지

오늘은 AI 관련 굵직한 소식들이 유난히 쏟아지는 날입니다. 

-런웨이(Runway)가 영상과 음성을 입력 인터페이스로 활용해서 애니메이션을 제작하는 액트원(Act-One)을 내놓았습니다. 
-이디오그램(Ideogram)은 최고의 인페인팅 및 아웃페인팅 기능을 갖춘 무한 창작 보드 캔버스(Canvas)를 출시했고요. 
-오픈AI는 음성 인터페이스 어드밴스드 보이스(Advanced Voice)를 EU 포함 다수 국가에서 사용 가능하게 풀었습니다. 
-퍼플렉시티(Perplexity)는 ‘리즈닝 모드(reasoning mode, 추론 모드)’를 추가해서 프로 서치(Pro Search)를 내놨는데, 여러 층위의 질문을 해도 퍼플렉시티가 적용해서 답을 주는 기능입니다. 요즘 정말로 구글보다 퍼플렉시티를 많이 쓰는데 매력적인 기능이 추가된 것 같습니다. 
-앤트로픽은 컴퓨터(Claude)가 컴퓨터를 사용할 수 있는 인터페이스를 API로 내놨습니다. 앤트로픽은 ‘위험한 AI를 만들지 않겠다’고 나선 팀이었는데요. 이는 ‘AI 에이전트’ 시대의 본격적인 도래를 의미하지 않나 싶습니다. 어디까지 갈 수 있을까요. 그리고 이거 정말 괜찮을까요.

오늘은 AI 관련 굵직한 소식들이 유난히 쏟아지는 날입니다.&nbsp; -런웨이(Runway)가 영상과 음성을 입력 인터페이스로 활용해서 애니메이션을 제작하는 액트원(Act-One)을 내놓았습니다.&nbsp;-이디오그램(Ideogram)은 최고의 인페인팅 및 아웃페인팅 기능을 갖춘 무한 창작 보드 캔버스(Canvas)를 출시했고요.&nbsp;-오픈AI는 음성 인터페이스 어드밴스드 보이스(Advanced Voice)를 EU 포함 다수 국가에서 사용 가능하게 풀었습니다.&nbsp;-퍼플렉시티(Perplexity)는 ‘리즈닝 모드(reasoning mode, 추론 모드)’를 추가해서 프로 서치(Pro Search)를 내놨는데, 여러 층위의 질문을 해도 퍼플렉시티가 적용해서 답을 주는 기능입니다. 요즘 정말로 구글보다 퍼플렉시티를 많이 쓰는데 매력적인 기능이 추가된 것 같습니다.&nbsp;-앤트로픽은 컴퓨터(Claude)가 컴퓨터를 사용할 수 있는 인터페이스를 API로 내놨습니다. 앤트로픽은 ‘위험한 AI를 만들지 않겠다’고 나선 팀이었는데요. 이는 ‘AI 에이전트’ 시대의 본격적인 도래를 의미하지 않나 싶습니다. 어디까지 갈 수 있을까요. 그리고 이거 정말 괜찮을까요. &nbsp;

1
주어진 삶을 제대로 살아가기 위해서는 기준이 있어야 한다. 기준이 있어야 섣부른 타협을 하지 않을 수 있다.

2
그렇다면 어떤 기준이어야 하는가? 나만의 기준? 아니다.

3
스토아 철학은 타인과 구별되는 자신만의 기준에는 독선과 오만에 빠질 위험이 있다고 했다.

4
그렇다면 타인의 기준? 아니면 사회의 기준? 이 또한 아니다.

5
스토아 철학에서는 자신의 행복을 타인에게 맡기는 것은 어리석다고 했다.

6
세네카는 이렇게 비유했다. ”사람들이 많이 다니는 가장 분주한 길이 우리를 가장 많이 속인다.“

7
그렇다면 기준을 어떻게 정해야 하는가? 스토아 철학이 내놓은 답은 이렇다.

8
”누군가를 모방하려 하지 말고 자신의 이성을 사용하되, 겸손, 친절, 공정함, 정의감, 절제와 같은 덕성에 기대어 기준을 정하라.“

#데일리필로소피
#라이언홀리데이

1 주어진 삶을 제대로 살아가기 위해서는 기준이 있어야 한다. 기준이 있어야 섣부른 타협을 하지 않을 수 있다. ​ ​2 그렇다면 어떤 기준이어야 하는가? 나만의 기준? 아니다. ​ ​3 스토아 철학은 타인과 구별되는 자신만의 기준에는 독선과 오만에 빠질 위험이 있다고 했다. ​ ​4 그렇다면 타인의 기준? 아니면 사회의 기준? 이 또한 아니다. ​ ​5 스토아 철학에서는 자신의 행복을 타인에게 맡기는 것은 어리석다고 했다. ​ ​6 세네카는 이렇게 비유했다. ”사람들이 많이 다니는 가장 분주한 길이 우리를 가장 많이 속인다.“ ​ ​7 그렇다면 기준을 어떻게 정해야 하는가? 스토아 철학이 내놓은 답은 이렇다. ​ ​8 ”누군가를 모방하려 하지 말고 자신의 이성을 사용하되, 겸손, 친절, 공정함, 정의감, 절제와 같은 덕성에 기대어 기준을 정하라.“ #데일리필로소피 #라이언홀리데이

< 스토아 철학자가 알려주는 행복의 기준 >

https://blog.naver.com/madaboutit/223614080568

안녕하세요. 데이터 리차드입니다.

AI를 활용하는 케이스들이 주변에서 점점 더 많아지고, 그리고 다양해지고 있습니다.
ChatGPT는 질문을 얼마나 자세하게 구성하느냐에 따라 대답의 품질이 달라지는데요.
이 때 사용할 수 있는 프롬프트 최적화 전략을 알려드릴게요.

1. 배경 설명
✔️ 당신이 누구인지 밝히세요.
✔️ 당신의 상황과 자격, 경험 등을 자세히 서술하세요.

2. 해결해야 하는 문제
✔️ 해결해야 하는 문제에 대해 설명하기 전에 상황, 배경에 대해 먼저 설명하세요.

3. 구체적인 지시
✔️ 구체적인 숫자와 형식을 정하세요. (3개의 리스트, 1개의 테이블)
✔️ 참고할만한 레퍼런스를 제공하세요.
✔️ 구체적인 예시는 항상 도움이 됩니다.

4. 수정 및 반복
✔️ 만약 원하는 결과가 나오지 않을시, 일반적으로 흔한 대답을 제외해달라고 부탁하세요.

5. 추가 프롬프트
✔️ 답변을 제공하기 전에 가장 유용한 답변을 생성하는 데 도움이 되는 추가 정보를 표시해 주세요.
✔️ 차근차근 생각하고 답변을 제공해주세요.

✅ 예시 프롬프트를 보여드릴게요.

Heterogeneous treatment effects
Propensity scores
Meta-learners
Causal forests
T-learner vs. S-learner
Conditional average treatment effect (CATE)
Doubly robust estimates Model misspecification

나는 현재 A/B testing을 공부하고 있는 대학원생이야.

위 개념들에 대해 처음 배우는 사람도 이해하기 쉽도록 개념을 정리해주고,
이해하기 어려운 용어들이 있다면,
비유와 예시를 들어서 알기 쉽게 차근차근 설명해줘.

각 리스트별로 대표적인 예시를 2개씩 보여주고
어떤 상황에서 사용되는지 친절하게 설명해줘.

마지막으로 출력한 내용을 1개의 표로 정리해줘.
차근차근 생각하고 답변을 제공해줘.

#데이터리차드 #프롬프트최적화 #전략 #AI #활용법

안녕하세요. 데이터 리차드입니다. AI를 활용하는 케이스들이 주변에서 점점 더 많아지고, 그리고 다양해지고 있습니다. ChatGPT는 질문을 얼마나 자세하게 구성하느냐에 따라 대답의 품질이 달라지는데요. 이 때 사용할 수 있는 프롬프트 최적화 전략을 알려드릴게요. 1. 배경 설명 ✔️ 당신이 누구인지 밝히세요. ✔️ 당신의 상황과 자격, 경험 등을 자세히 서술하세요. 2. 해결해야 하는 문제 ✔️ 해결해야 하는 문제에 대해 설명하기 전에 상황, 배경에 대해 먼저 설명하세요. 3. 구체적인 지시 ✔️ 구체적인 숫자와 형식을 정하세요. (3개의 리스트, 1개의 테이블) ✔️ 참고할만한 레퍼런스를 제공하세요. ✔️ 구체적인 예시는 항상 도움이 됩니다. 4. 수정 및 반복 ✔️ 만약 원하는 결과가 나오지 않을시, 일반적으로 흔한 대답을 제외해달라고 부탁하세요. 5. 추가 프롬프트 ✔️ 답변을 제공하기 전에 가장 유용한 답변을 생성하는 데 도움이 되는 추가 정보를 표시해 주세요. ✔️ 차근차근 생각하고 답변을 제공해주세요. ✅ 예시 프롬프트를 보여드릴게요. Heterogeneous treatment effects Propensity scores Meta-learners Causal forests T-learner vs. S-learner Conditional average treatment effect (CATE) Doubly robust estimates Model misspecification 나는 현재 A/B testing을 공부하고 있는 대학원생이야. 위 개념들에 대해 처음 배우는 사람도 이해하기 쉽도록 개념을 정리해주고, 이해하기 어려운 용어들이 있다면, 비유와 예시를 들어서 알기 쉽게 차근차근 설명해줘. 각 리스트별로 대표적인 예시를 2개씩 보여주고 어떤 상황에서 사용되는지 친절하게 설명해줘. 마지막으로 출력한 내용을 1개의 표로 정리해줘. 차근차근 생각하고 답변을 제공해줘. #데이터리차드 #프롬프트최적화 #전략 #AI #활용법

프롬프트 최적화 전략을 소개합니다

The MLOps engineer role is different from an ML engineer role. Even though the role varies from company to company, in general, ML engineers focus more on bringing individual projects to production, while MLOps engineers work more on building a platform t

MLOps roadmap 2024

feat.DeepL

MLOps 엔지니어의 역할은 ML 엔지니어의 역할과는 다릅니다. 회사마다 역할이 다르지만 일반적으로 ML 엔지니어는 개별 프로젝트를 프로덕션으로 전환하는 데 더 중점을 두는 반면, MLOps 엔지니어는 머신러닝 엔지니어와 데이터 과학자가 사용하는 플랫폼을 구축하는 데 더 많은 노력을 기울입니다.

이러한 플랫폼을 구축하려면 다양한 기술이 필요합니다. 다음은 MLOps 엔지니어가 되는 데 도움이 되는 로드맵입니다. 프로그래밍 기술부터 MLOps 구성 요소와 인프라를 코드로 구현하는 것까지 단계별로 진행하도록 되어 있습니다.

기억하세요: 모든 도구를 다 알 필요는 없습니다. MLOps를 위한 각 도구 중 한 가지 유형만 제대로 이해하고 경험하는 것으로 충분합니다. 여기에서는 시작하기에 가장 일반적이고 인기 있는 몇 가지 도구를 제안합니다. 로드맵에는 올해 중 일부 업데이트가 있을 수 있습니다. 최신 버전을 확인하고 몇 가지 제안 사항이 있으면 Marvelous MLOps의 MLOps 로드맵 리포지토리(https://github.com/marvelousmlops/mlops-roadmap-2024/)를 확인하세요.

1. 프로그래밍
MLOps 엔지니어에게 프로그래밍 기술은 필수입니다. Python은 머신 러닝에 가장 많이 사용되는 언어입니다. MLOps 엔지니어는 머신 러닝 엔지니어 및 데이터 과학자와 협업하기 때문에 Python을 배우는 것이 중요합니다.

1.1. Python 및 IDE
적절한 Python 책을 읽고 개념을 연습하는 것으로 Python 학습을 시작하는 것이 좋습니다.
 * 튜토리얼 추천: https://realpython.com
 * 추천 도서 Python 크래시 코스, 3판: 실습 위주의 프로젝트 기반 프로그래밍 입문 3판(Eric Matthes 저)
 * 코드 실습 제안: https://leetcode.com/problemset/
 * 코스 추천: 파이썬 3 배우기(https://www.codecademy.com/learn/learn-python-3)
 * 트랙 제안:파이썬 기초(https://app.datacamp.com/learn/skill-tracks/python-fundamentals), 파이썬 프로그래밍(https://app.datacamp.com/learn/skill-tracks/python-programming)

1.2. Bash 기본 사항 및 명령줄 편집기
CI/CD 파이프라인에 단계를 추가하고, 도커 파일을 만드는 등 여러 가지 작업을 하려면 Bash 기본 사항을 이해해야 합니다.
 * 도서 추천: The Linux Command Line, 2nd Edition by William E. Shotts
 * 코스 추천: Bash 마스터하기(https://www.udemy.com/course/bash-mastery/?couponCode=24T4FS22124)
 * VIM은 가장 널리 사용되는 명령줄 편집기 중 하나입니다. 가볍고 쉽게 시작할 수 있습니다.
 * 튜토리얼 제안: VIM 초보자 가이드(https://www.freecodecamp.org/news/vim-beginners-guide/), VIM 모험(https://vim-adventures.com/), Daniel Miessler의 VIM(https://danielmiessler.com/p/vim/)

2. 컨테이너화와 Kubernetes
컨테이너는 기본 인프라에 관계없이 소프트웨어 개발 및 배포를 간소화하는 데 도움이 되는 격리된 소프트웨어 환경입니다. 이는 최신 소프트웨어 엔지니어링 모범 사례의 필수 요소입니다.

2.1. Docker
Docker는 가장 인기 있는 오픈 소스 컨테이너화 플랫폼 중 하나로, 코드 개발, 모델 교육, 엔드포인트 배포 등 다양한 목적으로 MLOps에서 널리 사용되고 있습니다.
 * Docker 로드맵: https://roadmap.sh/docker
 * 튜토리얼 제안: Techworld의 Nana가 작성한 전체 Docker 튜토리얼(https://www.youtube.com/watch?v=3c-iBn73dDE&ab_channel=TechWorldwithNana)

2.2. Kubernetes
Kubernetes는 MLOps 엔지니어가 반드시 배워야 할 필수 요소입니다. 머신 러닝 모델 학습, 모델 엔드포인트 배포, 대시보드 제공에 널리 사용됩니다.
 * Kubernetes 로드맵: https://roadmap.sh/kubernetes
 * 튜토리얼 제안: freecodecamp.com의 Kubernetes 과정(https://www.youtube.com/watch?v=d6WC5n9G_sM&ab_channel=freeCodeCamp.org)
 * 코스 제안: Kubernetes 마스터(https://www.udemy.com/course/kubernetesmastery/?couponCode=24T4FS22124)
K9s는 Kubernetes 클러스터를 쉽게 관리할 수 있는 강력한 CLI 도구입니다:
https://k9scli.io

3. 머신 러닝 기초
MLOps 엔지니어는 머신 러닝 엔지니어 및 데이터 과학자와 함께 작업하며 머신 러닝 모델에 대한 기본적인 이해가 있어야 합니다.
데이터 과학자와 머신 러닝 엔지니어가 하는 일을 제대로 이해하지 못하면 MLOps 원칙을 완전히 받아들일 수 없습니다.
 * 코스 제안: https://mlcourse.ai/, https://course.fast.ai
 * 도서 추천: 엔지니어를 위한 응용 머신 러닝 및 AI(Jeff Prosise 저)
   
   
4. MLOps 원칙
MLOps 엔지니어는 MLOps 원칙과 MLOps 성숙도에 기여하는 요인이 무엇인지 알고 있어야 합니다.
 * 도서: 머신 러닝 시스템 설계하기 𝖻𝗒 Chip Huyen, MLOps 소개 𝖻𝗒 마크 트레베일 𝖺𝗇𝖽 데이터이쿠
 * MLOps 성숙도 평가(https://marvelousmlops.substack.com/p/mlops-maturity-assessment) 및 ml-ops.org(https://ml-ops.org/)를 확인하세요.

5. MLOps 구성 요소
MLOps 플랫폼은 버전 제어, CI/CD, 오케스트레이션, 컴퓨팅, 서비스 및 기능 저장소와 같은 여러 MLOps 구성 요소로 구성되어 있습니다. 결국 MLOps 프레임워크는 이러한 도구를 결합하는 것입니다. MLOps를 위한 최소한의 필수 도구 모음 문서를 확인하세요.
 * 도서 추천: ML Engineering with Python by Andy McMahon
 * 추천 코스 Made with ML MLOps course(https://madewithml.com/courses/mlops/) , The full stack 7-steps MLOps framework(https://www.pauliusztin.me/courses/the-full-stack-7-steps-mlops-framework), End-to-end machine learning(https://www.udemy.com/course/sustainable-and-scalable-machine-learning-project-development/?couponCode=24T4FS22124)

5.1. 버전 관리 및 CI/CD 파이프라인
버전 관리와 CI/CD 파이프라인이 없으면 ML 모델 배포를 추적하고 재현할 수 없습니다.
가장 널리 사용되는 버전 제어 시스템은 Git입니다. GitLab과 GitHub는 가장 널리 사용되는 버전 관리 서비스입니다. 이 두 가지를 모두 배울 필요는 없습니다.
 * 도서: Learning GitHub Actions by Brent Laster, Learning Git by Anna Skoulikari
 * 튜토리얼 및 강좌:Git & GitHub for beginners(https://www.youtube.com/watch?v=RGOj5yH7evk&ab_channel=freeCodeCamp.org), Taking Python to Production: A Professional Onboarding Guide (https://www.udemy.com/course/setting-up-the-linux-terminal-for-software-development/?couponCode=24T4FS22124), The Missing Semester of Your CS Education (mit.edu)(https://missing.csail.mit.edu/), https://learngitbranching.js.org/

5.2. 오케스트레이션
데이터 엔지니어링에서와 마찬가지로, 머신 러닝 엔지니어링에서도 Mage나 Airflow와 같은 오케스트레이션 시스템이 널리 사용됩니다. (단순한 오케스트레이션 이상의 기능을 하는) 머신 러닝 전용 오케스트레이션 도구(예: Kubeflow 또는 Metaflow)도 있습니다. 업계에서는 아직 에어플로우가 더 일반적인 것으로 보입니다.

 * 코스 제안: Introduction to Airflow in Python(https://app.datacamp.com/learn/courses/introduction-to-airflow-in-python)
 * 참고: 앤디 맥마흔의 『파이썬을 사용한 ML 엔지니어링』과 풀 스택 7단계 MLOps 프레임워크에서도 Airflow(https://www.pauliusztin.me/courses/the-full-stack-7-steps-mlops-framework)

5.3. 실험 추적 및 모델 레지스트리
실험 추적은 다양한 모델 훈련 실행에 속하는 메타데이터, 파라미터 및 아티팩트를 로깅하는 것을 의미합니다. 저장되는 항목은 알고리즘과 사용자의 필요에 따라 다릅니다. 실험 추적을 사용하면 서로 다른 실행을 비교할 수 있습니다. 서로 다른 실험 실행의 모델을 등록하고 실험에 연결할 수 있어 추적에 도움이 됩니다.

MLflow는 모델 등록 및 실험 추적을 위한 가장 인기 있는 도구일 것입니다. MLflow는 오픈 소스이며 다양한 플랫폼 및 도구와 통합됩니다.
 * 강좌 추천: MLflow Udemy 강좌(https://www.udemy.com/course/mlflow-course/?couponCode=24T4FS22124), 엔드투엔드 머신 러닝-MLflow 편(https://www.udemy.com/course/sustainable-and-scalable-machine-learning-project-development/)

5.4. 데이터 계보 및 기능 저장소
최근 들어 피처 스토어가 인기를 끌면서 이제 MLOps 인프라의 중요한 구성 요소로 간주될 수 있습니다. 기능 저장소는 기능 사용을 추적하는 데 도움이 되며 모델 간에 기능을 공유할 수 있게 해줍니다. 오픈 소스 솔루션이 필요하다면 가장 인기 있는 솔루션인 Feast를 고려해 보세요
 * 튜토리얼 제안: Feast로 피처 스토어 만들기 1부(https://kedion.medium.com/creating-a-feature-store-with-feast-part-1-37c380223e2f), 2부(https://kedion.medium.com/feature-storage-for-ml-with-feast-part-2-34df1971a8d3), 3부(https://kedion.medium.com/feature-storage-for-ml-with-feast-a061899fc4a2)
동일한 기능을 공유하는 모델이 많지 않은 경우에는 기능 스토어 자체가 필요하지 않습니다. 하지만 모델 아티팩트를 생성하는 데 어떤 데이터가 사용되었는지 추적할 필요가 있습니다. 이를 위해 DVC를 사용하는 것을 고려하세요.
 * 코스 제안: 엔드투엔드 머신 러닝(https://www.udemy.com/course/sustainable-and-scalable-machine-learning-project-development/)

5.5. 모델 훈련 및 제공
모델을 어디에서 훈련하고 어떻게 제공할지는 아마도 MLOps에서 가장 논란이 많은 주제일 것입니다. 이 질문에 대한 답은 "상황에 따라 다르다"입니다. 많은 데이터 과학 팀들이 모델을 학습하고 제공하기 위해 AWS Sagemaker, Azure ML 또는 Vertex AI와 같은 클라우드 네이티브 솔루션에 의존합니다. 조직에서 Kubernetes에 크게 의존하고 있고 이를 지원하는 적절한 팀이 있다면 사용을 고려해 보세요. 오케스트레이션을 위해 Airflow를 사용하는 경우, Kubernetes에서 모델 트레이닝 작업을 트리거할 수 있는 KubernetesPodOperator가 있습니다. 엔드포인트 배포의 경우, FastApi가 가장 일반적인 선택입니다.
 * 리포지토리 제안: ML 배포 k8s FastAPI(https://github.com/sayakpaul/ml-deployment-k8s-fastapi/tree/main)
 * 튜토리얼 제안: FastAPI로 머신 러닝 앱을 빌드하는 방법(https://dev.to/bravinsimiyu/beginner-guide-on-how-to-build-a-machine-learning-app-with-fastapi-part-ii-deploying-the-fastapi-application-to-kubernetes-4j6g)
   
   
오케스트레이터로 Kubeflow를 사용하는 경우, 트레이닝에는 Kubeflow 파이프라인을 사용하고 서비스에는 KServe를 사용할 수 있습니다.
 * 튜토리얼 제안: 기본 kubeflow 파이프라인(https://towardsdatascience.com/tutorial-basic-kubeflow-pipeline-from-scratch-5f0350dc1905), 머신 러닝 파이프라인 구축 및 배포,(https://www.datacamp.com/tutorial/kubeflow-tutorial-building-and-deploying-machine-learning-pipelines?utm_source=google&utm_medium=paid_search&utm_campaignid=19589720818&utm_adgroupid=157156373991&utm_device=c&utm_keyword=&utm_matchtype=&utm_network=g&utm_adpostion=&utm_creative=683184494153&utm_targetid=dsa-2218886984380&utm_loc_interest_ms=&utm_loc_physical_ms=9064564&utm_content=&utm_campaign=230119_1-sea~dsa~tofu_2-b2c_3-eu_4-prc_5-na_6-na_7-le_8-pdsh-go_9-na_10-na_11-na-dec23&gad_source=1) KServe 튜토리얼(https://towardsdatascience.com/kserve-highly-scalable-machine-learning-deployment-with-kubernetes-aa7af0b71202)

5.6. 모니터링 및 통합 가시성
모니터링과 통합 가시성은 MLOps 플랫폼에서 매우 중요한 부분입니다. 이 두 용어는 같은 의미로 사용될 수 있지만, 그 사이에는 차이가 있습니다. ML 모니터링과 통합 가시성 문서(https://marvelousmlops.substack.com/p/ml-monitoring-vs-ml-observability)를 확인해 보세요.

ML 시스템 통합 가시성의 경우, Prometheus와 Grafana의 조합이 가장 일반적으로 사용됩니다.
 * Prometheus 및 Grafana 마스터하기 과정(https://www.udemy.com/course/mastering-prometheus-and-grafana/?couponCode=24T4FS22124)
데이터 및 모델 드리프트와 같은 ML 관련 모니터링의 경우, 주요 클라우드 제공업체는 ML 제안에 내장된 자체 솔루션을 보유하고 있습니다. Evidently.ai 또는 NannyML과 같은 오픈 소스 솔루션도 있습니다.
 * 코스 제안: 머신 러닝 모니터링 개념(https://app.datacamp.com/learn/courses/machine-learning-monitoring-concepts), Python으로 머신 러닝 모니터링하기(https://app.datacamp.com/learn/courses/monitoring-machine-learning-in-python)

6. 코드로서의 인프라: 테라폼
코드형 인프라는 MLOps 프레임워크를 재현 가능하게 만드는 데 매우 중요합니다. Terraform은 가장 인기 있고 강력한 IaC 도구입니다. 모든 일반적인 클라우드 제공업체 및 플랫폼에서 작동합니다.
 * 코스 제안: 초보자를 위한 Terraform 코스(https://www.youtube.com/watch?v=SLB_c_ayRMo)
 * 짧은 동영상: Techworld의 Nana가 소개하는 8가지 Terraform 모범 사례(https://www.youtube.com/watch?v=gxPykhPxRW0&ab_channel=TechWorldwithNana)
 * 책 추천: Terraform: 시작과 실행, 3판 예브게니 브릭먼 저

출처: https://marvelousmlops.substack.com/p/mlops-roadmap-2024?r=1ttoeh&utm_campaign=post&utm_medium=web

feat.DeepL MLOps 엔지니어의 역할은 ML 엔지니어의 역할과는 다릅니다. 회사마다 역할이 다르지만 일반적으로 ML 엔지니어는 개별 프로젝트를 프로덕션으로 전환하는 데 더 중점을 두는 반면, MLOps 엔지니어는 머신러닝 엔지니어와 데이터 과학자가 사용하는 플랫폼을 구축하는 데 더 많은 노력을 기울입니다. 이러한 플랫폼을 구축하려면 다양한 기술이 필요합니다. 다음은 MLOps 엔지니어가 되는 데 도움이 되는 로드맵입니다. 프로그래밍 기술부터 MLOps 구성 요소와 인프라를 코드로 구현하는 것까지 단계별로 진행하도록 되어 있습니다. 기억하세요: 모든 도구를 다 알 필요는 없습니다. MLOps를 위한 각 도구 중 한 가지 유형만 제대로 이해하고 경험하는 것으로 충분합니다. 여기에서는 시작하기에 가장 일반적이고 인기 있는 몇 가지 도구를 제안합니다. 로드맵에는 올해 중 일부 업데이트가 있을 수 있습니다. 최신 버전을 확인하고 몇 가지 제안 사항이 있으면 Marvelous MLOps의 MLOps 로드맵 리포지토리(https://github.com/marvelousmlops/mlops-roadmap-2024/)를 확인하세요. 1. 프로그래밍MLOps 엔지니어에게 프로그래밍 기술은 필수입니다. Python은 머신 러닝에 가장 많이 사용되는 언어입니다. MLOps 엔지니어는 머신 러닝 엔지니어 및 데이터 과학자와 협업하기 때문에 Python을 배우는 것이 중요합니다. 1.1. Python 및 IDE적절한 Python 책을 읽고 개념을 연습하는 것으로 Python 학습을 시작하는 것이 좋습니다.<ul ><li>튜토리얼 추천: https://realpython.com</li><li>추천 도서 Python 크래시 코스, 3판: 실습 위주의 프로젝트 기반 프로그래밍 입문 3판(Eric Matthes 저)</li><li>코드 실습 제안: https://leetcode.com/problemset/</li><li>코스 추천: 파이썬 3 배우기(https://www.codecademy.com/learn/learn-python-3)</li><li>트랙 제안:파이썬 기초(https://app.datacamp.com/learn/skill-tracks/python-fundamentals), 파이썬 프로그래밍(https://app.datacamp.com/learn/skill-tracks/python-programming)</li></ul> 1.2. Bash 기본 사항 및 명령줄 편집기CI/CD 파이프라인에 단계를 추가하고, 도커 파일을 만드는 등 여러 가지 작업을 하려면 Bash 기본 사항을 이해해야 합니다.<ul ><li>도서 추천: The Linux Command Line, 2nd Edition by William E. Shotts</li><li>코스 추천: Bash 마스터하기(https://www.udemy.com/course/bash-mastery/?couponCode=24T4FS22124)</li><li>VIM은 가장 널리 사용되는 명령줄 편집기 중 하나입니다. 가볍고 쉽게 시작할 수 있습니다.</li><li>튜토리얼 제안: VIM 초보자 가이드(https://www.freecodecamp.org/news/vim-beginners-guide/), VIM 모험(https://vim-adventures.com/), Daniel Miessler의 VIM(https://danielmiessler.com/p/vim/)</li></ul> 2. 컨테이너화와 Kubernetes컨테이너는 기본 인프라에 관계없이 소프트웨어 개발 및 배포를 간소화하는 데 도움이 되는 격리된 소프트웨어 환경입니다. 이는 최신 소프트웨어 엔지니어링 모범 사례의 필수 요소입니다. 2.1. DockerDocker는 가장 인기 있는 오픈 소스 컨테이너화 플랫폼 중 하나로, 코드 개발, 모델 교육, 엔드포인트 배포 등 다양한 목적으로 MLOps에서 널리 사용되고 있습니다.<ul ><li>Docker 로드맵: https://roadmap.sh/docker</li><li>튜토리얼 제안: Techworld의 Nana가 작성한 전체 Docker 튜토리얼(https://www.youtube.com/watch?v=3c-iBn73dDE&amp;ab_channel=TechWorldwithNana)</li></ul> 2.2. KubernetesKubernetes는 MLOps 엔지니어가 반드시 배워야 할 필수 요소입니다. 머신 러닝 모델 학습, 모델 엔드포인트 배포, 대시보드 제공에 널리 사용됩니다.<ul ><li>Kubernetes 로드맵: https://roadmap.sh/kubernetes</li><li>튜토리얼 제안: freecodecamp.com의 Kubernetes 과정(https://www.youtube.com/watch?v=d6WC5n9G_sM&amp;ab_channel=freeCodeCamp.org)</li><li>코스 제안: Kubernetes 마스터(https://www.udemy.com/course/kubernetesmastery/?couponCode=24T4FS22124)</li></ul>K9s는 Kubernetes 클러스터를 쉽게 관리할 수 있는 강력한 CLI 도구입니다:https://k9scli.io 3. 머신 러닝 기초MLOps 엔지니어는 머신 러닝 엔지니어 및 데이터 과학자와 함께 작업하며 머신 러닝 모델에 대한 기본적인 이해가 있어야 합니다.데이터 과학자와 머신 러닝 엔지니어가 하는 일을 제대로 이해하지 못하면 MLOps 원칙을 완전히 받아들일 수 없습니다.<ul ><li>코스 제안: https://mlcourse.ai/, https://course.fast.ai</li><li>도서 추천: 엔지니어를 위한 응용 머신 러닝 및 AI(Jeff Prosise 저) </li></ul>4. MLOps 원칙MLOps 엔지니어는 MLOps 원칙과 MLOps 성숙도에 기여하는 요인이 무엇인지 알고 있어야 합니다.<ul ><li>도서: 머신 러닝 시스템 설계하기 𝖻𝗒 Chip Huyen, MLOps 소개 𝖻𝗒 마크 트레베일 𝖺𝗇𝖽 데이터이쿠</li><li>MLOps 성숙도 평가(https://marvelousmlops.substack.com/p/mlops-maturity-assessment) 및 ml-ops.org(https://ml-ops.org/)를 확인하세요.</li></ul> 5. MLOps 구성 요소MLOps 플랫폼은 버전 제어, CI/CD, 오케스트레이션, 컴퓨팅, 서비스 및 기능 저장소와 같은 여러 MLOps 구성 요소로 구성되어 있습니다. 결국 MLOps 프레임워크는 이러한 도구를 결합하는 것입니다. MLOps를 위한 최소한의 필수 도구 모음 문서를 확인하세요.<ul ><li>도서 추천: ML Engineering with Python by Andy McMahon</li><li>추천 코스 Made with ML MLOps course(https://madewithml.com/courses/mlops/) , The full stack 7-steps MLOps framework(https://www.pauliusztin.me/courses/the-full-stack-7-steps-mlops-framework), End-to-end machine learning(https://www.udemy.com/course/sustainable-and-scalable-machine-learning-project-development/?couponCode=24T4FS22124)</li></ul> 5.1. 버전 관리 및 CI/CD 파이프라인버전 관리와 CI/CD 파이프라인이 없으면 ML 모델 배포를 추적하고 재현할 수 없습니다.가장 널리 사용되는 버전 제어 시스템은 Git입니다. GitLab과 GitHub는 가장 널리 사용되는 버전 관리 서비스입니다. 이 두 가지를 모두 배울 필요는 없습니다.<ul ><li>도서: Learning GitHub Actions by&nbsp;Brent Laster, Learning Git by Anna Skoulikari</li><li>튜토리얼 및 강좌:Git &amp; GitHub for beginners(https://www.youtube.com/watch?v=RGOj5yH7evk&amp;ab_channel=freeCodeCamp.org), Taking Python to Production: A Professional Onboarding Guide&nbsp;(https://www.udemy.com/course/setting-up-the-linux-terminal-for-software-development/?couponCode=24T4FS22124), The Missing Semester of Your CS Education (mit.edu)(https://missing.csail.mit.edu/), https://learngitbranching.js.org/</li></ul> 5.2. 오케스트레이션데이터 엔지니어링에서와 마찬가지로, 머신 러닝 엔지니어링에서도 Mage나 Airflow와 같은 오케스트레이션 시스템이 널리 사용됩니다. (단순한 오케스트레이션 이상의 기능을 하는) 머신 러닝 전용 오케스트레이션 도구(예: Kubeflow 또는 Metaflow)도 있습니다. 업계에서는 아직 에어플로우가 더 일반적인 것으로 보입니다. <ul ><li>코스 제안: Introduction to Airflow in Python(https://app.datacamp.com/learn/courses/introduction-to-airflow-in-python)</li><li>참고: 앤디 맥마흔의 『파이썬을 사용한 ML 엔지니어링』과 풀 스택 7단계 MLOps 프레임워크에서도 Airflow(https://www.pauliusztin.me/courses/the-full-stack-7-steps-mlops-framework)</li></ul> 5.3. 실험 추적 및 모델 레지스트리실험 추적은 다양한 모델 훈련 실행에 속하는 메타데이터, 파라미터 및 아티팩트를 로깅하는 것을 의미합니다. 저장되는 항목은 알고리즘과 사용자의 필요에 따라 다릅니다. 실험 추적을 사용하면 서로 다른 실행을 비교할 수 있습니다. 서로 다른 실험 실행의 모델을 등록하고 실험에 연결할 수 있어 추적에 도움이 됩니다. MLflow는 모델 등록 및 실험 추적을 위한 가장 인기 있는 도구일 것입니다. MLflow는 오픈 소스이며 다양한 플랫폼 및 도구와 통합됩니다.<ul ><li>강좌 추천: MLflow Udemy 강좌(https://www.udemy.com/course/mlflow-course/?couponCode=24T4FS22124), 엔드투엔드 머신 러닝-MLflow 편(https://www.udemy.com/course/sustainable-and-scalable-machine-learning-project-development/)</li></ul> 5.4. 데이터 계보 및 기능 저장소최근 들어 피처 스토어가 인기를 끌면서 이제 MLOps 인프라의 중요한 구성 요소로 간주될 수 있습니다. 기능 저장소는 기능 사용을 추적하는 데 도움이 되며 모델 간에 기능을 공유할 수 있게 해줍니다. 오픈 소스 솔루션이 필요하다면 가장 인기 있는 솔루션인 Feast를 고려해 보세요<ul ><li>튜토리얼 제안: Feast로 피처 스토어 만들기 1부(https://kedion.medium.com/creating-a-feature-store-with-feast-part-1-37c380223e2f), 2부(https://kedion.medium.com/feature-storage-for-ml-with-feast-part-2-34df1971a8d3), 3부(https://kedion.medium.com/feature-storage-for-ml-with-feast-a061899fc4a2)</li></ul>동일한 기능을 공유하는 모델이 많지 않은 경우에는 기능 스토어 자체가 필요하지 않습니다. 하지만 모델 아티팩트를 생성하는 데 어떤 데이터가 사용되었는지 추적할 필요가 있습니다. 이를 위해 DVC를 사용하는 것을 고려하세요.<ul ><li>코스 제안: 엔드투엔드 머신 러닝(https://www.udemy.com/course/sustainable-and-scalable-machine-learning-project-development/)</li></ul> 5.5. 모델 훈련 및 제공모델을 어디에서 훈련하고 어떻게 제공할지는 아마도 MLOps에서 가장 논란이 많은 주제일 것입니다. 이 질문에 대한 답은 "상황에 따라 다르다"입니다. 많은 데이터 과학 팀들이 모델을 학습하고 제공하기 위해 AWS Sagemaker, Azure ML 또는 Vertex AI와 같은 클라우드 네이티브 솔루션에 의존합니다. 조직에서 Kubernetes에 크게 의존하고 있고 이를 지원하는 적절한 팀이 있다면 사용을 고려해 보세요. 오케스트레이션을 위해 Airflow를 사용하는 경우, Kubernetes에서 모델 트레이닝 작업을 트리거할 수 있는 KubernetesPodOperator가 있습니다. 엔드포인트 배포의 경우, FastApi가 가장 일반적인 선택입니다.<ul ><li>리포지토리 제안: ML 배포 k8s FastAPI(https://github.com/sayakpaul/ml-deployment-k8s-fastapi/tree/main)</li><li>튜토리얼 제안: FastAPI로 머신 러닝 앱을 빌드하는 방법(https://dev.to/bravinsimiyu/beginner-guide-on-how-to-build-a-machine-learning-app-with-fastapi-part-ii-deploying-the-fastapi-application-to-kubernetes-4j6g) </li></ul>오케스트레이터로 Kubeflow를 사용하는 경우, 트레이닝에는 Kubeflow 파이프라인을 사용하고 서비스에는 KServe를 사용할 수 있습니다.<ul ><li>튜토리얼 제안: 기본 kubeflow 파이프라인(https://towardsdatascience.com/tutorial-basic-kubeflow-pipeline-from-scratch-5f0350dc1905), 머신 러닝 파이프라인 구축 및 배포,(https://www.datacamp.com/tutorial/kubeflow-tutorial-building-and-deploying-machine-learning-pipelines?utm_source=google&amp;utm_medium=paid_search&amp;utm_campaignid=19589720818&amp;utm_adgroupid=157156373991&amp;utm_device=c&amp;utm_keyword=&amp;utm_matchtype=&amp;utm_network=g&amp;utm_adpostion=&amp;utm_creative=683184494153&amp;utm_targetid=dsa-2218886984380&amp;utm_loc_interest_ms=&amp;utm_loc_physical_ms=9064564&amp;utm_content=&amp;utm_campaign=230119_1-sea~dsa~tofu_2-b2c_3-eu_4-prc_5-na_6-na_7-le_8-pdsh-go_9-na_10-na_11-na-dec23&amp;gad_source=1) KServe 튜토리얼(https://towardsdatascience.com/kserve-highly-scalable-machine-learning-deployment-with-kubernetes-aa7af0b71202)</li></ul> 5.6. 모니터링 및 통합 가시성모니터링과 통합 가시성은 MLOps 플랫폼에서 매우 중요한 부분입니다. 이 두 용어는 같은 의미로 사용될 수 있지만, 그 사이에는 차이가 있습니다. ML 모니터링과 통합 가시성 문서(https://marvelousmlops.substack.com/p/ml-monitoring-vs-ml-observability)를 확인해 보세요. ML 시스템 통합 가시성의 경우, Prometheus와 Grafana의 조합이 가장 일반적으로 사용됩니다.<ul ><li>Prometheus 및 Grafana 마스터하기 과정(https://www.udemy.com/course/mastering-prometheus-and-grafana/?couponCode=24T4FS22124)</li></ul>데이터 및 모델 드리프트와 같은 ML 관련 모니터링의 경우, 주요 클라우드 제공업체는 ML 제안에 내장된 자체 솔루션을 보유하고 있습니다. Evidently.ai 또는 NannyML과 같은 오픈 소스 솔루션도 있습니다.<ul ><li>코스 제안: 머신 러닝 모니터링 개념(https://app.datacamp.com/learn/courses/machine-learning-monitoring-concepts), Python으로 머신 러닝 모니터링하기(https://app.datacamp.com/learn/courses/monitoring-machine-learning-in-python)</li></ul> 6. 코드로서의 인프라: 테라폼코드형 인프라는 MLOps 프레임워크를 재현 가능하게 만드는 데 매우 중요합니다. Terraform은 가장 인기 있고 강력한 IaC 도구입니다. 모든 일반적인 클라우드 제공업체 및 플랫폼에서 작동합니다.<ul ><li>코스 제안: 초보자를 위한 Terraform 코스(https://www.youtube.com/watch?v=SLB_c_ayRMo)</li><li>짧은 동영상: Techworld의 Nana가 소개하는 8가지 Terraform 모범 사례(https://www.youtube.com/watch?v=gxPykhPxRW0&amp;ab_channel=TechWorldwithNana)</li><li>책 추천: Terraform: 시작과 실행, 3판 예브게니 브릭먼 저</li></ul> 출처: https://marvelousmlops.substack.com/p/mlops-roadmap-2024?r=1ttoeh&amp;utm_campaign=post&amp;utm_medium=web

Substack

AI와 관련된 수 많은 오픈소스들이 쏟아지면서 오픈소스 생태계는 그야말로 AI 오픈소스 르네상스를 맞이하고 있습니다. LangChain의 성공을 시작으로 많은 오픈소스들이 나오면서 AI 업계 시스템을 빠르게 메꾸고 있기도 합니다.
 

여러 계층의 AI의 Stack 별로 인기를 누리고 있는 오픈소스를 한번 살펴보려고 합니다. 

 
Open LLM

생성형 AI의 핵심인 LLM(Large Language Model)은 GPT를 필두로 한 Closed LLM과 Llama 진영의 Open LLM 두 축으로 나뉘는데, Mistral 팀의 모델이 오픈소스 라이선스로 모델을 공개하였고, 뛰어난 성능까지 발휘하여 많은 이들의 관심을 받고 있습니다. Open LLM 은 주로 허깅페이스를 통해 관리하고 제공됩니다.

 
Mixtral-8x7B-Instruct-v0.1 (Apache-2.0)
https://huggingface.co/mistralai/Mixtral-8x7B-Instruct-v0.1
- 전문가 혼합 모델(SMoE)을 채용했습니다.
- Llama 2 70B 모델을 넘어 GPT-3.5 175B 를 앞서는 성능을 보여줍니다.
- 블라인드 챗봇테스트인 챗봇 아레나에서 GPT-4, Claude-2 에 이어 3번째 순위입니다.

Llama-2-7b-chat (Llama 2 Community)
https://huggingface.co/meta-llama/Llama-2-7b-chat
- 월간 활성사용자 7억명 이하인 서비스에서는 상업적으로 사용 가능한 라이선스입니다.
- Llama-2를 파인튜닝한 수 많은 파생 모델이 나와 있습니다.

phi-2 (MIT)
https://huggingface.co/microsoft/phi-2
- MS 에서 공개한 2.7B 파라미터의 경량 모델입니다.
- 상식, 언어 이해, 논리적 추론을 테스트 결과 13B 모델보다 성능이 좋다는 결과를 보였다고 합니다.

 

LLM 추론 및 서빙

잘 학습된 LLM 을 효과적으로 사용하기 위해서는 빠르고, 컴퓨팅 자원을 효율적으로 관리해줄 수 있는 도구가 필요합니다. 

Ollama (MIT)
https://github.com/jmorganca/ollama
- Mac, Linux, Windows 등 로컬환경에서 7B 수준의 LLM 을 직접 실행할 수 있습니다.
- 간단한 명령어만으로 모델을 다운로드하고 실행합니다.
- CLI로 모델을 관리하고, 간단한 채팅이 가능합니다.
- 제공된 API를 통해 여러가지 활용이 가능합니다.

vLLM (Apache-2.0)
https://github.com/vllm-project/vllm
- LLM 추론 및 서빙을 위한 빠르고 사용하기 쉬운 라이브러리입니다.
- 허깅페이스에서 제공되는 모델을 지원합니다.
- 분산처리, 병렬처리, 스트리밍 출력, OpenAI 호환 API 제공합니다.
- Nvidia, AMD GPU 지원합니다.

KServe (Apache-2.0)
https://github.com/kserve/kserve
- Kubernetes 환경에서 구축가능한 ML 모델 추론을 위한 플랫폼입니다.
- 스케일링, 네트워킹, 모니터링 등을 위한 추상화 인터페이스를 제공합니다.

 

LLM 프록싱
 
LiteLLM (MIT)
https://github.com/BerriAI/litellm
- 다양한 LLM API 를 통합하고, 프록시를 제공합니다.
- OpenAI 의 API 형식을 따릅니다.
- 사용자별 API 인증 관리를 제공합니다.

One API (MIT)
https://github.com/songquanpeng/one-api
- 표준 OpenAI API 형식을 통해 모든 대형 모델에 즉시 액세스할 수 있도록 합니다.
- 다양한 LLM 을 지원하며, 프록시 서비스도 제공합니다.
- 로드 밸런싱과 다중 배포가 가능하며, 사용자 관리 및 그룹 기능을 제공합니다.

AI Gateway (MIT)
https://github.com/Portkey-AI/gateway
- 하나의 빠르고 친숙한 API로 100개 이상의 LLM에 연결을 제공합니다.
- 작은 사이즈의 설치만으로 빠른 엑세스를 보장합니다.

LLM Monitoring
Great Expectations (Apache-2.0)
https://github.com/great-expectations/great_expectations
- 데이터 팀이 품질 테스트, 문서화 및 프로파일링을 통해 데이터에 대한 공유된 이해를 구축하도록 돕습니다.
- CI/CD 파이프라인과 통합하여 필요한 곳에 정확하게 데이터 품질을 추가할 수 있습니다.

LangFuse (MIT)
https://github.com/langfuse/langfuse
- 오픈 소스 LLM 가시성, 분석, 신속한 관리, 평가, 테스트, 모니터링, 로깅, 추적을 제공합니다.
- 시각적 UI에서 복잡한 로그 및 추적을 탐색하고 디버깅할 수 있습니다.
- 향후 엔터프라이즈 기능이 추가 예정입니다.

Giskard (Apache-2.0, Dual License)
https://github.com/Giskard-AI/giskard
- 편향, 데이터 유출, 허위 상관관계, 환각, 독성, 보안 문제 등 표 형식 모델에서 LLM에 이르기까지 AI 모델의 취약점을 자동으로 탐지할 수 있습니다.
- AI 모델의 취약점을 스캔하고 테스트 스위트를 자동으로 생성하여 ML 모델과 LLM의 품질 보증 프로세스를 지원합니다.
- 배포된 LLM 애플리케이션에서 AI 안전 위험을 감지하는 SaaS 플랫폼을 제공합니다. (프리미엄)

 

LLM Framework

LangChain (MIT)
https://github.com/langchain-ai/langchain
- 언어 모델로 구동되는 애플리케이션을 개발하기 위한 프레임워크입니다.
- 파이썬 및 Javascript 로 제공하며, 수 많은 라이브러리들을 통합한 추상화 레이어를 제공합니다.
- 구축된 LangChain 을 API 로 배포할 수도 있습니다.

LlamaIndex (MIT)
https://github.com/run-llama/llama_index
- LLM 어플리케이션을 위한 데이터에 특화된 프레임워크입니다.
- 기존 데이터 소스 및 데이터 형식(API, PDF, 문서, SQL 등)을 수집하기 위한 데이터 커넥터를 제공합니다.
- 데이터를 LLM에서 쉽게 사용할 수 있도록 데이터(인덱스, 그래프)를 구조화하는 방법을 제공합니다.

Haystack (Apache-2.0)
https://github.com/deepset-ai/haystack
- 검색 증강 생성(RAG), 문서 검색, 질문 답변, 답변 생성 등 쉬운 구축을 위한 LLM 프레임워크입니다.
- 파이프라인 개념을 기반으로 구축합니다.

Flowise (Apache-2.0)
https://github.com/FlowiseAI/Flowise
- UI를 드래그 앤 드롭하여 맞춤형 LLM 플로우 구축할 수 있습니다.

LangFlow (MIT)
https://github.com/logspace-ai/langflow
- LangChain 파이프라인을 쉽게 실험하고 프로토타이핑할 수 있도록 합니다.
- CLI 를 이용해서 실행하며, Google Cloud Platform(GCP)에 Langflow 배포도 지원합니다.

Spring AI (Apache-2.0)
https://github.com/spring-projects/spring-ai
- Spring Framwork 에서 제공하는 AI 프레임워크 (아직 스냅샷 상태)
- OpenAI 및 MS Azure 기반의 API 연동을 지원하며, 추상화 레이어를 제공
- AI Template 을 이용하여 AI 기능을 보다 쉽고 확장성 있게 구현하는 것이 목표

Data Juicer (Apache-2.0)
https://github.com/alibaba/data-juicer
- Alibaba에서 공개한 오픈소스로 LLM을 위한 원스톱 데이터 처리 시스템입니다.
- 재사용 가능한 20개 이상의 구성 레시피, 50개 이상의 핵심 OP, 풍부한 기능의 전용 툴킷으로 구성된 체계적인 라이브러리를 제공합니다.
- 자동화된 보고서 생성 기능으로 상세한 데이터 분석을 수행하여 데이터 세트를 더 깊이 이해할 수 있습니다. 

 
Prompt

PromptFlow (MIT)
https://github.com/microsoft/promptflow
- 아이디어 구상, 프로토타이핑, 테스트, 평가부터 프로덕션 배포 및 모니터링에 도움을 주는 MS의 오픈소스입니다.
- LLM 기반 AI 애플리케이션의 엔드투엔드 개발 주기를 간소화하도록 설계된 개발 도구 모음입니다.
- VS 확장 기능인 Flow Desgin 도 제공합니다.

NeMo Guardrails (Apache-2.0)
https://github.com/NVIDIA/NeMo-Guardrails
-  LLM 기반 대화형 시스템에 프로그래밍 가능한 가드레일을 쉽게 추가할 수 있는 오픈 소스 툴킷입니다.
- LLM을 다른 서비스(툴이라고도 함)에 원활하고 안전하게 연결할 수 있습니다.
- 사전 정의된 대화 경로를 따르도록 LLM을 조정할 수 있으므로 대화 디자인 모범 사례에 따라 상호 작용을 설계하고 표준 운영 절차를 적용할 수 있습니다.

LLM Lingua (MIT)
https://github.com/microsoft/LLMLingua
- MS에서 공개한 오픈소스로 프롬프트 압축을 통한 대규모 언어 모델 추론 향상을 목표로 합니다.
- 잘 훈련된 경량 모델을 이용하여 프롬프트에서 필수적이지 않은 토큰을 사전에 식별하고 제거합니다.
-  이 접근 방식을 사용하면 대규모 언어 모델(LLM)을 사용하여 효율적인 추론을 수행할 수 있으며, 성능 손실을 최소화하면서 최대 20배의 압축을 달성할 수 있습니다.

{guidance} (MIT)
https://github.com/guidance-ai/guidance
- MS에서 공개한 오픈소스로, 기존의 프롬프트 및 체인에 비해 뛰어난 제어와 효율성을 제공합니다.
- 기존 프롬프트를 효율적으로 전달하여, cost 및 응답 시간을 개선합니다.
- {{ }} 템플릿을 기반으로 하는 간단하고 직관적인 구문을 제공합니다.

TypeChat (MIT)
https://github.com/microsoft/TypeChat
- MS에서 공개한 오픈소스로, 자연어 인터페이스를 특정 타입 데이터으로 변환하는 라이브러리입니다.
- 프롬프트 엔지니어링을 스키마 엔지니어링으로 대체합니다.
- 다양한 예제를 통해 사용 방식을 쉽게 이해할 수 있습니다.

MemGPT (Apache-2.0)
https://github.com/cpacker/MemGPT
- LLM의 제한된 컨텍스트 창 내에서 확장된 컨텍스트를 효과적으로 제공하기 위해 LLM의 다양한 메모리 계층을 지능적으로 관리하는 시스템입니다.
- 중요한 정보를 벡터 데이터베이스에 푸시해두었다가 필요한 경우 이를 사용하여 영구적인 대화를 가능하게 합니다.

 

LLM 평가

OpenAI Evals (MIT)
https://github.com/openai/evals
- OpenAI에서 제공하는 것으로 대규모 언어 모델(LLM) 또는 LLM을 사용하여 구축된 시스템을 평가하기 위한 프레임워크를 제공합니다.
- 데이터를 사용하여 해당 데이터를 공개적으로 노출하지 않고도 워크플로의 일반적인 LLM 패턴을 나타내는 비공개 평가를 구축할 수 있습니다.

UpTrain (Apache-2.0)
https://github.com/uptrain-ai/uptrain
- LLM 애플리케이션을 평가하기 위한 오픈 소스 도구입니다.
- 정확성, 환각, 독성 등의 측면에서 LLM 반응을 확인할 수 있는 사전 구축된 메트릭을 제공합니다.

OpenCompass (Apache-2.0)
https://github.com/open-compass/opencompass
- LLM의 품질과 효과를 쉽게 평가할 수 있습니다.
- 약 40만 개의 질문으로 구성된 70개 이상의 데이터 세트에 대한 모델 평가 체계인 20개 이상의 HuggingFace 및 API 모델을 사전 지원하여 모델의 기능을 5가지 차원에서 종합적으로 평가합니다.
- 표준 또는 대화형 프롬프트 템플릿과 함께 제로 샷, 소수 샷, 연쇄적 평가를 지원하여 다양한 모델의 최대 성능을 쉽게 평가할 수 있습니다.

 

AI Agent

AutoGPT (MIT)
https://github.com/Significant-Gravitas/AutoGPT
- GitHub Star가 매우 빠르게 증가한 가장 인기있는 AI Agent 오픈소스
- 12월 중순 v0.5.0 업데이트를 통해 프로젝트 구조가 재구성되어  AutoGPT는 /autogpts/autogpt 폴더 하위에 위치합니다.

MetaGPT (MIT)
https://github.com/geekan/MetaGPT
- 한 줄의 요구사항을 입력으로 받아 사용자 스토리/경쟁사 분석/요구사항/데이터 구조/API/문서 등을 출력합니다.
- 내부적으로는 제품 관리자/아키텍트/프로젝트 관리자/엔지니어를 포함합니다.

Javis (MIT)
https://github.com/microsoft/JARVIS
- MS에서 만든 수많은 전문가 모델 에이전트로 구성된 협업 시스템 입니다.
- 작업을 계획하고, 선택된 모델로 작업을 수행한 뒤 응답을 생성합니다.

ChatDEV (Apache-2.0)
https://github.com/OpenBMB/ChatDev
- 다양한 지능형 에이전트를 통해 운영되는 가상 소프트웨어 회사를 구현했습니다.
- 여러 직군들로 구선된 에이전트들이 협업하여 설계, 코딩, 테스트 및 문서화와 같은 작업을 수행합니다.

GPT Pilot (MIT)
https://github.com/Pythagora-io/gpt-pilot
- 개발자와 협업하며, 전체 코드를 작성하고 개선시킬 수 있는 AI 에이전트
-  AI가 앱에 대한 대부분의 코드(아마도 95%)를 작성할 수 있지만 나머지 5%의 경우 개발자가 개입하여 전체 코드를 얻어냅니다.

AgentVerse (Apache-2.0)
https://github.com/OpenBMB/AgentVerse
- 다양한 애플리케이션에서 여러 개의 LLM 기반 에이전트를 쉽게 배포할 수 있도록 설계되었습니다.
- 작업 해결과 시뮬레이션이라는 두 가지 프레임워크를 제공합니다.

PR Agent (Apache-2.0)
https://github.com/Codium-ai/pr-agent
- AI 에이전트로 PR을 분석해줍니다.
- PR 제목, 설명, 요약, 레이블 작성뿐만 아니라, PR 리뷰, 댓글 답변, 코드 제안 등의 기능을 제공합니다.

 

Web UI for LLM

Chatbot UI (MIT)
https://github.com/mckaywrigley/chatbot-ui
- 모두를 위한 오픈 소스 AI 채팅 UI를 제공합니다.
- 2024년 1월 v2.0 이 업데이트 되었습니다.
- 클라우드 LLM 뿐만 아니라 로컬에서 동작하는 LLM 도 지원합니다.

Quivr (Apache-2.0)
https://github.com/StanGirard/quivr
- GPT, Anthropic, VertexAI, Ollama 를 사용하여 문서 (PDF, CSV, ...) 기반으로 채팅을 할 수 있습니다.
- 오프라인 모드 및 링크를 공개할 수도 있으며, 마켓플레이스도 제공합니다.

Langchain-Chatchat (Apache-2.0)
https://github.com/chatchat-space/Langchain-Chatchat
- LangChain을 이용한 Q&A 챗봇 UI를 제공합니다.
- 오픈 소스 LLM 및 임베딩 모델을 기반으로 모든 오픈 소스 모델을 사용하여 오프라인 프라이빗 배포를 달성할 수 있습니다.

LibreChat (MIT)
https://github.com/danny-avila/LibreChat
- ChatGPT 와 유사한 Web 채팅 UI 를 제공합니다.
- 멀티모달 채팅이 가능하며, 다양한 모델을 선택할 수 있습니다.

Next.js AI Chatbot
https://github.com/vercel/ai-chatbot
- Vercel에서 제공하는 Chatbot UI입니다.
- 스트리밍 채텅을 위한 Vercel AI SDK 를 제공합니다.
- Shadcn/ui 를 사용하여 개발되었습니다.

Stable Diffusion web UI (AGPL-3.0)
https://github.com/AUTOMATIC1111/stable-diffusion-webui
- Stable Diffusion을 위한 Gradio 라이브러리를 기반으로 하는 Web UI를 제공합니다.
- 한 번의 클릭으로 설치 및 실행이 가능합니다.

ComfyUI InstantID (Apache-2.0)
https://github.com/huxiuhan/ComfyUI-InstantID
- InstantID는 단일 이미지만으로 인물 식별이 가능한 새로운 이미지를 생성합니다.
- Instant ID 기능을 사용하기 위한 기본 테스트 인터페이스를 제공합니다.
- SD Turbo를 사용가능합니다.

h2o GPT (Apache-2.0)
https://github.com/h2oai/h2ogpt
- 문서를 쿼리하고 요약하거나 로컬 비공개 GPT LLM과 채팅할 수 있습니다.
- 다양한 모델 지원하며, 추론 서버를 지원합니다.
- Linux, Docker, macOS 및 Windows 에서 사용 가능합니다.

Anything LLM (Apache-2.0)
https://github.com/Mintplex-Labs/anything-llm
- 모든 문서, 리소스 또는 콘텐츠를 채팅 중에 모든 LLM이 참조로 사용할 수 있는 컨텍스트로 변환할 수 있는 풀스택 애플리케이션입니다.
- 사용할 LLM 또는 벡터 데이터베이스를 선택할 수 있습니다.
- 다중 사용자 관리 및 권한 관리 기능을 제공합니다.

 

Productivity

Open Interpreter (AGPL-3.0)
https://github.com/KillianLucas/open-interpreter
- ChatGPT의 Code Interpreter의 기능을 로컬에서 가능하게 해주는 오픈소스입니다.
- CodeLlama를 사용해서 코드가 작성됩니다.
- 실제 로컬환경에서 돌아가며 시스템 명령어도 수행하기 때문에 주의 필요합니다.

Tldraw (Apache-2.0 에서 자체 라이선스로 변경, non-commercial)
https://github.com/tldraw/tldraw
- 캔버스에 그림을 그리면 해당 기능을 AI 로 개발해줍니다.

Screenshot to Code (MIT)
https://github.com/abi/screenshot-to-code
- 웹사이트을 찍어서 올리면 HTML/Tailwind css 로 사이트를 구축합니다.
- GPT-4의 Vision 기능을 이용하여 스크린샷을 분삭하고, 이미지가 필요한 경우 DALL-E 로 생성합니다.

ShellGPT (MIT)
https://github.com/TheR1D/shell_gpt
- 터미널에서 쉘 명령어, 코드 스니펫, 문서 생성에 도움을 줍니다.
- Linux, macOS, Windows를 지원하며 PowerShell, CMD, Bash, Zsh 등과 같은 모든 주요 셸과 호환됩니다.

Pandas AI (MIT)
https://github.com/gventuri/pandas-ai
- 데이터 분석 및 조작 도구인 pandas에 생성적 AI 기능을 추가한 Python 라이브러리입니다.
- 자연어로 데이터에 대해 질문할 수 있습니다.

Continue (Apache-2.0)
https://github.com/continuedev/continue
- VS Code 및 JetBrains용 오픈 소스 Code Copilot 플러그인입니다.
- 채팅을 통해 코드를 작성할 수 있는 IDE 플러그인을 제공합니다.

Sweep (Elastic License - 오픈소스X)
https://github.com/sweepai/sweep
- 버그와 기능 요청을 코드 변경으로 전환하는 AI 주니어 개발자입니다.
- GitHub 이슈를 등록하면, 이슈가 해결된 코드를 자동을 작성하고 PR로 전환됩니다.
- 종속성 그래프, 텍스트 및 벡터 검색을 사용하여 코드베이스를 이해합니다.

https://revf.tistory.com/303

오픈소스로 완성하는 AI Full Stack

YouTube에서 마음에 드는 동영상과 음악을 감상하고, 직접 만든 콘텐츠를 업로드하여 친구, 가족뿐 아니라 전 세계 사람들과 콘텐츠를 공유할 수 있습니다.

 - YouTube

프론트엔드 개발 환경에서
Next.js
가 사실상 표준으로 자리잡고 있는 현 시점에서 “Next.js 꼭 써야할까?” 라는 주제의 이번 토스
모닥불 EP.6
를 흥미롭게 봤습니다.

프레임워크 선택과 활용
 1. 문제 해결 능력 평가: 프레임워크가 어떤 문제를 얼마나 효과적으로 해결하는가?
 2. 상황에 맞는 최적의 선택: 다양한 프레임워크를 비교 분석하고 종합적으로 검토하여 선정
 3. 학습지향적 접근: 표면적으로만 사용하는 것이 아닌, 내부 동작 원리를 이해하려는 자세
 4. 프레임워크 의존성 탈피: 프레임워크에 종속되기 보다는 개발자가 프레임워크를 주도하는 자세

프레임워크를 사용하면서도 지속적인 학습을 통해 성장을 추구해야 합니다. 또한
Next.js
를 포함한 다양한 프레임워크를 경험하고 비교 분석함으로써, 더 넓은 시야와 깊이 있는 통찰을 얻을 수 있습니다. 결국에 프레임워크도 도구이기 때문에 이를 효과적으로 활용하고, 때로는 필요하다면 프레임워크 커스터마이징을 통해 본질적인 문제를 해결할 수 있는 개발자의 역량을 갖추는 것이 중요합니다.

https://www.youtube.com/watch?v=L2gAcPmB9WY

프론트엔드 개발 환경에서 <code >Next.js</code>가 사실상 표준으로 자리잡고 있는 현 시점에서 “Next.js 꼭 써야할까?” 라는 주제의 이번 토스 <code >모닥불 EP.6</code> 를 흥미롭게 봤습니다. 프레임워크 선택과 활용<ol ><li>문제 해결 능력 평가: 프레임워크가 어떤 문제를 얼마나 효과적으로 해결하는가?</li><li>상황에 맞는 최적의 선택: 다양한 프레임워크를 비교 분석하고 종합적으로 검토하여 선정</li><li>학습지향적 접근: 표면적으로만 사용하는 것이 아닌, 내부 동작 원리를 이해하려는 자세</li><li>프레임워크 의존성 탈피: 프레임워크에 종속되기 보다는 개발자가 프레임워크를 주도하는 자세</li></ol> 프레임워크를 사용하면서도 지속적인 학습을 통해 성장을 추구해야 합니다. 또한 <code >Next.js</code>를 포함한 다양한 프레임워크를 경험하고 비교 분석함으로써, 더 넓은 시야와 깊이 있는 통찰을 얻을 수 있습니다. 결국에 프레임워크도 도구이기 때문에 이를 효과적으로 활용하고, 때로는 필요하다면 프레임워크 커스터마이징을 통해 본질적인 문제를 해결할 수 있는 개발자의 역량을 갖추는 것이 중요합니다. https://www.youtube.com/watch?v=L2gAcPmB9WY

www.youtube.com

도구를 넘어선 개발자의 역량: "Next.js 꼭 써야할까?"

저는 하고 싶은 일을 하느라 바쁘거든요 | 일하기 싫어요.일하고 싶은 회사로 만들어주세요.   밀레니얼 세대가 회사에 적응하는 방법  밀레니얼 세대인 나는 어려서부터 '하고 싶은 일을 하라'는 말을 들으며 자랐다. 그래서 무슨 일을 하든 내가 하고 싶은 마음이 드는지, 동기 부여가 되는지가 중요했다. 그건 첫 직장에 들어가서 일을 할 때에도 마찬가지였다.   처음엔 회사가 나에게 동기 부여해주기를 

12화 동기 부여는 회사가 책임져 주세요

브런치 글들을 이리저리 찾아 읽다가 스타트업 신입사원 가이드라는 주제로 작성된 글이 있어 공유드립니다. 과거 자신의 경험 예시로 작성해주셨고, 저도 과거에 가졌던 생각과 일치하는 부분이 있어 흥미롭게 읽었습니다.

밀레니얼 세대가 회사에 적응하는 방법
저는 '하고 싶은 일을 하라'는 말을 들으며 자랐기에 무슨 일을 하든 내가 하고 싶은 일, 동기부여가 되는지가 중요했었습니다. 그래서 처음에 회사가 나에게 동기 부여를 해주길 바랬고 '일하고 싶은 마음, 동기 부여' 또한 회사에 당당히 요구하는 건 내게 당연한 일이라고 생각했었습니다. 그래서 스타트업에 입사하고 회사에 이것저것들을 요구했습니다. 물론 회사에 근로자가 요구할 수 있는건 당연하지만 저는 바라기만 하고 책임질 생각은 전혀 못했습니다

권리만 알고 책임은 모른다는 것
첫 입사 후 느낀건 '회사는 학교가 아니라 일터' 라는 것입니다. 내가 알던 회사는 직원들을 케어하고, 성장할 수 있도록 사내 교육도 제공하며, 일하기 좋은 환경을 만들기 위해 노력하는 곳이였습니다. 그러나 현실은 회사는 돈을 버는 치열한 일터이고 직원에겐 성과를 만들어내야 하는 책임이 있었습니다. 그렇게 깨닫고 나니 '일하고 싶은 마음' 은 오히려 회사가 나에게 요구할 수 있는 내 책임이였습니다. 회사도 일하기 좋은 환경을 제공해야 하지만, 직원 또한 스스로 동기 부여를 하든 뭘 하든 노력해서 성과를 만들어낼 책임이 있는 것입니다.

아마추어가 일을 하지 못하는 수많은 변명을 이야기 할 때, 프로는 그냥 한다.
아마추어는
 * "시간이 없어서 못했어요. 업무량이 너무 많아요.",
 * "왜 해야 하는지 모르겠어요",
 * "제가 하고 싶었던 일이 아니에요" 라는 말을 하지만,
프로는
 * "영감이 중요하다고? 그런 게 어딨어, 그냥 하는 거지",
 * "일을 왜 하냐고요? 그런게 어딨어, 그냥 하는거지" 라는 말을 합니다.
일터에서 스스로 동기 부여를 하지 못하면 팀 전체에 피해를 주고, 일할 마음이 안 든다는 이유로 뒤쳐져 있으면 안됩니다.

어쩌면 동기부여가 중요한게 아니라
동기 부여를 하든 뭘 하든 성과를 만들어내는것이 중요하고 그게 프로입니다. 어떻게든 직장생활에서 스스로 동기 부여하는 방법을 찾아내기 위해 악착같이 노력해야 합니다.

동기부여는 회사가 책임져주지 않습니다.
동기 부여는 회사가 대신해주지 않고, 하고 싶은 일이나 자아실현은 자기가 알아서 해야합니다. 프로들은 알아서 Self-Motivation하고 능동적으로 문제를 해결하고 자신의 일을 남에게 떠넘기지 않고 그들은 권리를 따지기 전에 먼저 책임을 지고자 합니다. 제대로 된 프로가 되고 싶다면 나 또한 그렇게 돼야 합니다.

직장 생활에서 스스로에게 동기 부여 하는 방법
 * 우선순위: 스스로 포기할 수 없는 핵심 가치를 찾기
 * 커리어 디자인: 내가 이 일을 왜하는지 지금의 경험이 어떻게 도움이 되는지 스스로 명확한 답을 내리기
 * 밸류 체인: 자기 직무가 뭐하는지만 아는게 아닌 밸류 체인에서 어떤 의미가 있는지, 시장에서 어떤 의미가 있는지 알기, 더 나아가 제품/서비스가 시장 안에서 어떤 의미가 있는지 알기
 * 책임 떠맡기: 회사 안에 문제가 있을 때 그 문제의 책임을 다른 사람에게 돌리는 게 아니라, 내가 먼저 나서서 떠맡기 (높은 수준의 책임을 지기)
 * 업무방법론: 자기만의 업무방법론 만들기

브런치 글들을 이리저리 찾아 읽다가 스타트업 신입사원 가이드라는 주제로 작성된 글이 있어 공유드립니다. 과거 자신의 경험 예시로 작성해주셨고, 저도 과거에 가졌던 생각과 일치하는 부분이 있어 흥미롭게 읽었습니다. 밀레니얼 세대가 회사에 적응하는 방법저는 '하고 싶은 일을 하라'는 말을 들으며 자랐기에 무슨 일을 하든 내가 하고 싶은 일, 동기부여가 되는지가 중요했었습니다. 그래서 처음에 회사가 나에게 동기 부여를 해주길 바랬고 '일하고 싶은 마음, 동기 부여' 또한 회사에 당당히 요구하는 건 내게 당연한 일이라고 생각했었습니다. 그래서 스타트업에 입사하고 회사에 이것저것들을 요구했습니다. 물론 회사에 근로자가 요구할 수 있는건 당연하지만 저는 바라기만 하고 책임질 생각은 전혀 못했습니다 권리만 알고 책임은 모른다는 것첫 입사 후 느낀건 '회사는 학교가 아니라 일터' 라는 것입니다. 내가 알던 회사는 직원들을 케어하고, 성장할 수 있도록 사내 교육도 제공하며, 일하기 좋은 환경을 만들기 위해 노력하는 곳이였습니다. 그러나 현실은 회사는 돈을 버는 치열한 일터이고 직원에겐 성과를 만들어내야 하는 책임이 있었습니다. 그렇게 깨닫고 나니 '일하고 싶은 마음' 은 오히려 회사가 나에게 요구할 수 있는 내 책임이였습니다. 회사도 일하기 좋은 환경을 제공해야 하지만, 직원 또한 스스로 동기 부여를 하든 뭘 하든 노력해서 성과를 만들어낼 책임이 있는 것입니다. 아마추어가 일을 하지 못하는 수많은 변명을 이야기 할 때, 프로는 그냥 한다.아마추어는<ul ><li>"시간이 없어서 못했어요. 업무량이 너무 많아요.",</li><li>"왜 해야 하는지 모르겠어요",</li><li>"제가 하고 싶었던 일이 아니에요" 라는 말을 하지만,</li></ul>프로는<ul ><li>"영감이 중요하다고? 그런 게 어딨어, 그냥 하는 거지",</li><li>"일을 왜 하냐고요? 그런게 어딨어, 그냥 하는거지" 라는 말을 합니다.</li></ul>일터에서 스스로 동기 부여를 하지 못하면 팀 전체에 피해를 주고, 일할 마음이 안 든다는 이유로 뒤쳐져 있으면 안됩니다. 어쩌면 동기부여가 중요한게 아니라동기 부여를 하든 뭘 하든 성과를 만들어내는것이 중요하고 그게 프로입니다. 어떻게든 직장생활에서 스스로 동기 부여하는 방법을 찾아내기 위해 악착같이 노력해야 합니다. 동기부여는 회사가 책임져주지 않습니다.동기 부여는 회사가 대신해주지 않고, 하고 싶은 일이나 자아실현은 자기가 알아서 해야합니다. 프로들은 알아서 Self-Motivation하고 능동적으로 문제를 해결하고 자신의 일을 남에게 떠넘기지 않고 그들은 권리를 따지기 전에 먼저 책임을 지고자 합니다. 제대로 된 프로가 되고 싶다면 나 또한 그렇게 돼야 합니다. 직장 생활에서 스스로에게 동기 부여 하는 방법<ul ><li>우선순위: 스스로 포기할 수 없는 핵심 가치를 찾기</li><li>커리어 디자인: 내가 이 일을 왜하는지 지금의 경험이 어떻게 도움이 되는지 스스로 명확한 답을 내리기</li><li>밸류 체인: 자기 직무가 뭐하는지만 아는게 아닌 밸류 체인에서 어떤 의미가 있는지, 시장에서 어떤 의미가 있는지 알기, 더 나아가 제품/서비스가 시장 안에서 어떤 의미가 있는지 알기</li><li>책임 떠맡기: 회사 안에 문제가 있을 때 그 문제의 책임을 다른 사람에게 돌리는 게 아니라, 내가 먼저 나서서 떠맡기 (높은 수준의 책임을 지기)</li><li>업무방법론: 자기만의 업무방법론 만들기</li></ul>

Brunch Story

동기부여는 회사가 책임져 주세요

팀네이버 컨퍼런스 DAN 24는 네이버의 비즈니스 전략과 기술, 크리에이티브, 그리고 다양한 경험의 전문성을 유기적으로 연결하여 네이버가 앞으로 만들어나갈 비즈니스, 서비스의 변화 방향을 제시하는 자리입니다.

DAN 24

 * DAY 1 참가신청 - 10월 30일 15시
 * DAY 2 참가신청 - 10월 31일 15시
네이버페이 앱 설치 필요

행사 일시: 2024. 11. 11-12
행사 장소: 코엑스 서울

https://dan.naver.com/24/registration

<ul ><li>DAY 1 참가신청 - 10월 30일 15시</li><li>DAY 2 참가신청 - 10월 31일 15시</li></ul>네이버페이 앱 설치 필요 행사 일시: 2024. 11. 11-12행사 장소: 코엑스 서울 https://dan.naver.com/24/registration

dan.naver.com

팀네이버의 컨퍼런스 DAN24

어제 시애틀에 있는 한인 프로페서널 모임 창발 테크 서밋에 메인 스피커 중의 하나로 참여했다. 어려운 대화에 관한 이야기를 하고 행사 후 네트워킹 파티에서 많은 분들과 이야기를 나누었는데 한 분이 주신 질문이 빠르게 변화하는 IT 업계에서 어떻게 30년 동안 일과 개인 생활의 균형을 잡을 수 있었는지 물어보았다. 자주 받는 질문 중의 하나인데 내 이야기를 요약해보면 아래와 같다.

 * 먼저 딱히 워라밸의 경계를 유지하려고 의식적인 노력을 하려고 하지는 않는다. 처음에는 아주 못했지만 지금은 순간순간 무엇이 더 중요한지 판단하려 한다. 예를 들면 가족과 외식 중이라면 외식에 집중하려 한다. 외식하는 몇 시간을 못 기다릴 정도로 중요한 일은 생각보다 많지 않다. 아무리 스트레스 받는 일이 있어도, 그 걱정은 잠깐 걱정의 방에 가둬두고 외식이 끝난 후 나중에 꺼내서 이야기 해보자. 순간순간 무엇이 더 중요한지 생각해보자.
 * 특히 커리어 초기에 재미있는 일을 한다면 워라밸을 유지하려 하는 것 보다는 미친 듯이 일을 해보고 몰두하는 경험도 해볼 필요가 있다. 스트레스도 따라올 수 있고 관리가 잘 안되면 번아웃이 올 수도 있는데 이런 경험도 해볼 필요가 있다. 넘어지는 경험을 안하고 자전거를 탈 수 없는 법이다. 안 좋은 경험일수록 회복이 불가능한 것만 아니라면 직접 경험이라는 것이 꼭 필요하다.
 * 개발자 관점에서 하나 중요한 포인트는 기술을 모두 따라가려 하는 것이다. 필요에 의해 또는 호기심에 의해 따라가는 것은 좋다. 조바심과 불안감이 너무 크다면 변화하는 것을 따려가려 해보고 그게 정말 도움이 되는지 판단해보자. 다시 한번 직접 경험을 해보고 판단하는 것은 나쁘지 않다.
 * 기술은 계속 바뀌며 새로운 것이 계속 나온다. 많은 개발자들이 레거시 프레임웍을 현재 회사에서 사용하는 것에 대한 걱정을 한다. 하지만 새로운 프레임웍을 도입한다고 해도 2-3년 지나면 레거시 프레임웍이 된다. 결국, 필요에 의해 새로운 프레임웍을 도입해야지 커리어가 걱정이 이유라면 안 좋은 생각이다. 내가 원하는 것 이외에도 다른 사람들이 나에게 하는 기대가 무엇인지 생각해보자.
   
   
내 앞에 생각보다 시간이 많다는 점을 기억하자. 건강이 나빠진다면, 너무 힘들다면 잠깐 쉬어가도 좋다. 43살 때 3번째로 간 스타트업이 펀딩 실패하고 망하면서 11개월 쉬었는데 내 커리어에서 가장 잘 한 결정이었다. 그를 통해 배운 것은 남과 비교하지 않고 나이를 덜 의식하며 나에게 맞는 환경을 찾아가는 것이 건강한 커리어와 인생의 기본이라는 점이었다. 내가 원하는 것이 무엇인지 잘 모르겠어도 많이 고민해보자.

어제 시애틀에 있는 한인 프로페서널 모임 창발 테크 서밋에 메인 스피커 중의 하나로 참여했다. 어려운 대화에 관한 이야기를 하고 행사 후 네트워킹 파티에서 많은 분들과 이야기를 나누었는데 한 분이 주신 질문이 빠르게 변화하는 IT 업계에서 어떻게 30년 동안 일과 개인 생활의 균형을 잡을 수 있었는지 물어보았다. 자주 받는 질문 중의 하나인데 내 이야기를 요약해보면 아래와 같다. <ul ><li>먼저 딱히 워라밸의 경계를 유지하려고 의식적인 노력을 하려고 하지는 않는다. 처음에는 아주 못했지만 지금은 순간순간 무엇이 더 중요한지 판단하려 한다. 예를 들면 가족과 외식 중이라면 외식에 집중하려 한다. 외식하는 몇 시간을 못 기다릴 정도로 중요한 일은 생각보다 많지 않다. 아무리 스트레스 받는 일이 있어도, 그 걱정은 잠깐 걱정의 방에 가둬두고 외식이 끝난 후 나중에 꺼내서 이야기 해보자. 순간순간 무엇이 더 중요한지 생각해보자.</li><li>특히 커리어 초기에 재미있는 일을 한다면 워라밸을 유지하려 하는 것 보다는 미친 듯이 일을 해보고 몰두하는 경험도 해볼 필요가 있다. 스트레스도 따라올 수 있고 관리가 잘 안되면 번아웃이 올 수도 있는데 이런 경험도 해볼 필요가 있다. 넘어지는 경험을 안하고 자전거를 탈 수 없는 법이다. 안 좋은 경험일수록 회복이 불가능한 것만 아니라면 직접 경험이라는 것이 꼭 필요하다.</li><li>개발자 관점에서 하나 중요한 포인트는 기술을 모두 따라가려 하는 것이다. 필요에 의해 또는 호기심에 의해 따라가는 것은 좋다. 조바심과 불안감이 너무 크다면 변화하는 것을 따려가려 해보고 그게 정말 도움이 되는지 판단해보자. 다시 한번 직접 경험을 해보고 판단하는 것은 나쁘지 않다.</li><li>기술은 계속 바뀌며 새로운 것이 계속 나온다. 많은 개발자들이 레거시 프레임웍을 현재 회사에서 사용하는 것에 대한 걱정을 한다. 하지만 새로운 프레임웍을 도입한다고 해도 2-3년 지나면 레거시 프레임웍이 된다. 결국, 필요에 의해 새로운 프레임웍을 도입해야지 커리어가 걱정이 이유라면 안 좋은 생각이다. 내가 원하는 것 이외에도 다른 사람들이 나에게 하는 기대가 무엇인지 생각해보자. </li></ul>내 앞에 생각보다 시간이 많다는 점을 기억하자. 건강이 나빠진다면, 너무 힘들다면 잠깐 쉬어가도 좋다. 43살 때 3번째로 간 스타트업이 펀딩 실패하고 망하면서 11개월 쉬었는데 내 커리어에서 가장 잘 한 결정이었다. 그를 통해 배운 것은 남과 비교하지 않고 나이를 덜 의식하며 나에게 맞는 환경을 찾아가는 것이 건강한 커리어와 인생의 기본이라는 점이었다. 내가 원하는 것이 무엇인지 잘 모르겠어도 많이 고민해보자.

변화가 빠른 IT 업계에서 어떻게 오랜 시간 동안 워라밸을 유지했

백오피스 서버를 Vercel 에서 Fly.io로 옮겼다.

RSC/Server Action을 디폴트로 사용하게 되면서 Vercel의 장점이 크게 낮아졌고, Vercel의 서버 구조로 인해서 속도 저하로 인한 사용성이 많이 떨어질 뿐만 아니라, 디버깅하거나 세세한 로직을 제어하기가 어려워졌다.

물론 이미지 최적화 등을 손쉽게 할 수 있는 등의 여러가지 편의 기능이 있긴 하지만, 무엇보다 성능 최적화와 디버깅이 어렵다는 점이 좀 괴로웠음. 요즘 트래픽 좀만 높아져도 비용 폭탄 맞는다는 말도 많이 나오고..

덕분에 Fly.io를 자세하게 들여다 보게 되었는데, 이거 아주 물건임.

가격도 좋고 대시보드도 잘 되어 있고, 무엇보다 VM을 배포하거나 API로 제어하는 것이 매우 간편하다는 점이 아주 만족스럽다. PaaS, IaaS의 기치가 DevOps를 외주 주세요. 라는 것이지만 늘 뭔가 좀 부족하다는 생각을 했다면, Fly.io는 진짜로 DevOps가 있는 것 같은 느낌.

다만, 보안적인 문제가 약간 걱정되는 면이 있긴 한데, 배포 프로세스를 자동화하고 정책을 잘 정하면 문제 없을 듯.

백오피스 서버를 Vercel 에서 Fly.io로 옮겼다. RSC/Server Action을 디폴트로 사용하게 되면서 Vercel의 장점이 크게 낮아졌고, Vercel의 서버 구조로 인해서 속도 저하로 인한 사용성이 많이 떨어질 뿐만 아니라, 디버깅하거나 세세한 로직을 제어하기가 어려워졌다. 물론 이미지 최적화 등을 손쉽게 할 수 있는 등의 여러가지 편의 기능이 있긴 하지만, 무엇보다 성능 최적화와 디버깅이 어렵다는 점이 좀 괴로웠음. 요즘 트래픽 좀만 높아져도 비용 폭탄 맞는다는 말도 많이 나오고.. 덕분에 Fly.io를 자세하게 들여다 보게 되었는데, 이거 아주 물건임. 가격도 좋고 대시보드도 잘 되어 있고, 무엇보다 VM을 배포하거나 API로 제어하는 것이 매우 간편하다는 점이 아주 만족스럽다. PaaS, IaaS의 기치가 DevOps를 외주 주세요. 라는 것이지만 늘 뭔가 좀 부족하다는 생각을 했다면, Fly.io는 진짜로 DevOps가 있는 것 같은 느낌. 다만, 보안적인 문제가 약간 걱정되는 면이 있긴 한데, 배포 프로세스를 자동화하고 정책을 잘 정하면 문제 없을 듯.

백오피스 서버를 Vercel 에서 Fly.io로 옮겼다.

RSC

개발자 직무 면접에서 1분 자기소개 시 사용할 수 있는 템플릿을 사례와 함께 소개합니다.

개발자 면접 1분 자기소개, 이렇게 준비하자 - 재그지그의 개발 블로그

- 개발자 직무 면접에서 1분 자기소개 시 사용할 수 있는 템플릿을 사례와 함께 소개합니다.

---

최근에 제가 참여하고 있는 개발 커뮤니티의 익명 고민 상담 채널에서 자기소개에 대한 고민 글을 보게 되었습니다.

“내일 면접인데 혹시 자기소개는 보통 어떤 식으로 하나요? 무슨 말로 자기소개를 해야 할지, 어느 정도 문장으로 구성해야 할지 고민이네요.”

이 글을 보고 나서 제가 예전에 면접 볼 때 자기소개를 어떻게 했었는지를 다시 한번 떠올려봤습니다. 사실 마지막으로 면접을 본 게 거의 3년 전이다 보니, 만약 지금 당장 면접을 본다면 저를 어떻게 소개해야 할지 생각하게 되더라고요. 일반적으로 면접의 시작은 1분 자기소개와 함께 하니까요.

1분이라는 시간이 누군가에게는 짧게, 또 누군가에게는 길게 느껴질 수도 있는데요. 이 시간에 나의 장점을 면접관에게 잘 어필하기 위해서는 글의 구조를 다듬고 표현을 정제하는 과정이 필요하기 때문에 철저히 준비해야 실수를 하지 않습니다.

그래서 이에 대한 답변을 달아보았는데 오늘은 그 답변 내용을 바탕으로 이야기를 정리해 보았습니다.

https://wormwlrm.github.io/2024/10/25/Self-Introduction-for-Developer.html

- 개발자 직무 면접에서 1분 자기소개 시 사용할 수 있는 템플릿을 사례와 함께 소개합니다. --- 최근에 제가 참여하고 있는 개발 커뮤니티의 익명 고민 상담 채널에서 자기소개에 대한 고민 글을 보게 되었습니다. “내일 면접인데 혹시 자기소개는 보통 어떤 식으로 하나요? 무슨 말로 자기소개를 해야 할지, 어느 정도 문장으로 구성해야 할지 고민이네요.” 이 글을 보고 나서 제가 예전에 면접 볼 때 자기소개를 어떻게 했었는지를 다시 한번 떠올려봤습니다. 사실 마지막으로 면접을 본 게 거의 3년 전이다 보니, 만약 지금 당장 면접을 본다면 저를 어떻게 소개해야 할지 생각하게 되더라고요. 일반적으로 면접의 시작은 1분 자기소개와 함께 하니까요. 1분이라는 시간이 누군가에게는 짧게, 또 누군가에게는 길게 느껴질 수도 있는데요. 이 시간에 나의 장점을 면접관에게 잘 어필하기 위해서는 글의 구조를 다듬고 표현을 정제하는 과정이 필요하기 때문에 철저히 준비해야 실수를 하지 않습니다. 그래서 이에 대한 답변을 달아보았는데 오늘은 그 답변 내용을 바탕으로 이야기를 정리해 보았습니다. https://wormwlrm.github.io/2024/10/25/Self-Introduction-for-Developer.html

재그지그의 개발 블로그

🙋🏻‍♂️ 개발자 면접 1분 자기소개, 이렇게 준비하자

오늘은 AI 관련 굵직한 소식들이 유난히 쏟아지는 날입니다. 



사용자가 공유한 콘텐츠

1. “(애니메이션 OTT인 라프텔은) 일단 사람부터 모았습니다. 애니메이션 스트리밍 서비스를 하려면, 우선 콘텐츠 공급자(Contents Provider, CP)로부터 애니메이션을 제공받아야 하는데요”

2. “그런데 CP는 아무것도 없는 회사에 쉽게 콘텐츠를 주지 않습니다. (그래서) 우선 애니메이션 추천 플랫폼을 만들었어요. 트래픽을 모은 다음 스트리밍 서비스로 발전시키려고 한 겁니다”

3. “(그리고) 서비스 오픈 후에는 ‘부천만화축제’에 갔어요. 부스 설치하고, (축제에 온) 사람들에게 콘텐츠를 평가해달라고 했는데, 반응이 뜨거웠죠. (축제에 온 애니메이션 찐덕후분들께선) 1시간 넘게 앉아서 자기가 본 콘텐츠에 대해 수백 개씩 평가를 남기고, 친구들까지 데려오더라고요. 저희가 만든 서비스에 사람들이 몰려드는 걸 처음 눈으로 확인한 순간이었어요” (=고객과 실제로 교류)

4. “(축제 기간) 나흘 동안 1만 6천 개의 평가 데이터를 모았어요. 덕분에 의미 있는 추천이 작동했고요. (뿐만 아니라) 덕후분들 사이에서 입소문이 나기 시작했어요”

5. “(사람이 어느 정도 모인 후에는) 본격적으로 스트리밍을 시작해도 되겠다는 확신이 들었는데요. 그래서 CP를 찾아다녔는데, (안타깝게도) 계속 거절당했습니다”

6. “얻을 것도 크지 않아 보이는데, 소중한 콘텐츠를 정체도 모를 작은 회사에 넘겨야 하니 리스크가 훨씬 크다고 생각하는 게 당연했죠. 계속 문을 두드리는 것 외에 특별한 방법은 없었어요”

7. “CP사 대표님을 만나고 싶은데, (아예) 기회조차 안 주시는 거예요? 그래서 한 번은 대표님 동선을 상상해서 주말에 데이트하는 척 그 주변을 배회한 적도 있고요. 팀원들이 모여서 손편지를 써서 보낸 적도 있어요”

8. “(그러다) 마침내 계약하겠다는 연락이 왔는데, 손편지가 도착하기 전이라길래 급하게 반송한 적도 있어요 ㅎㅎ 저희가 적극적으로 쫓아다니니까 속는 셈 치고 한 번 믿어주신 거죠. (그렇게 콘텐츠를 수급하기 위해 CP사 대표님을 덕질하듯 쫓아다녔습니다)”

9. “(동시에 애니메이션 플랫폼의 경우) 불법 사이트의 존재가 CP사들에게도 골치였어요. 건강하게 운영하는 스트리밍 서비스가 그들에게도 필요했죠”

10. “(콘텐츠를 수급했으니, 이제 남은 건 고객이 돈을 내도록 설득하는 것이었는데 다행히) 넷플릭스 같은 대형 OTT 성장이 큰 역할을 했습니다. 넷플릭스를 통해 소비자들이 "콘텐츠는 돈 내고 봐야 한다"라는 개념에 익숙해진 거예요”

11. “운도 좋았지만, 저희가 준비돼 있었기 때문에 트래픽을 흡수할 수 있었어요. 아마존 창업자 제프 베조스가 저렴하고 다양한 제품을 빠르게 배송하는 걸 강조했잖아요? (저희는) 디지털 콘텐츠도 비슷하다고 생각했어요”

12. “특히 이용자들이 최대한 빨리 볼 수 있게 하려고 많이 노력 했어요. 저희도 덕후인지라, 조금이라도 콘텐츠를 빨리 보고 싶은 마음을 잘 알거든요. 운영팀이 '집착' '광기'에 가까운 수준으로 서비스를 운영했어요” (=덕후들의 니즈 파악)

13. “보통 애니메이션 신작은 일본에서 공개된 이후 한국 TV에 공개돼요. TV에서 방송이 끝나면 OTT로 넘어오는데요. 그 틈새를 불법 사이트가 치고 들어갔습니다. (그래서) 신작이 처음 공개되는 시점과 국내에서 합법적으로 볼 수 있게 되는 시점의 차이가 너무 길다고 생각했어요”

14. “이 과정을 조금이라도 줄이고 싶어서, TV 방송이 끝나면 파일을 받아 빠르게 작업 후 바로 공개했어요. 새벽 3시에라도요. 덕분에 덕후분들 사이에서 '라프텔이 제일 빠르다'는 인식이 생겼어요”

15. “(라프텔은 인수되기 전부터 월 단위로 흑자를 내고 있었는데) '충성도 높은 고객의 선순환'이 만들어진 덕분이었어요. 덕후분들은 충성도가 강하고, 이 분야에 진심이기 때문에, 리텐션이 높은 편이니까요”

16. “또한 (애니메이션 OTT는) 구독자 수, MAU, 등 모든 지표의 변동 폭이 다른 OTT에 비해 훨씬 적은 편이에요. (그래서) 라프텔은 비용을 쏟아붓는 화려한 방식보다는 '소박한 진심'을 전달하며 서비스를 만들어 왔어요. 그래서 꾸준히 서비스를 성장시킬 수 있었다고 생각합니다” (=섣부른 규모화보다는 덕후들의 마음에 집중)

- 김범준&김남희 전 라프텔 공동창업자

1. “(애니메이션 OTT인 라프텔은) 일단 사람부터 모았습니다. 애니메이션 스트리밍 서비스를 하려면, 우선 콘텐츠 공급자(Contents Provider, CP)로부터 애니메이션을 제공받아야 하는데요” 2. “그런데 CP는 아무것도 없는 회사에 쉽게 콘텐츠를 주지 않습니다. (그래서) 우선 애니메이션 추천 플랫폼을 만들었어요. 트래픽을 모은 다음 스트리밍 서비스로 발전시키려고 한 겁니다” 3. “(그리고) 서비스 오픈 후에는 ‘부천만화축제’에 갔어요. 부스 설치하고, (축제에 온) 사람들에게 콘텐츠를 평가해달라고 했는데, 반응이 뜨거웠죠. (축제에 온 애니메이션 찐덕후분들께선) 1시간 넘게 앉아서 자기가 본 콘텐츠에 대해 수백 개씩 평가를 남기고, 친구들까지 데려오더라고요. 저희가 만든 서비스에 사람들이 몰려드는 걸 처음 눈으로 확인한 순간이었어요” (=고객과 실제로 교류) 4. “(축제 기간) 나흘 동안 1만 6천 개의 평가 데이터를 모았어요. 덕분에 의미 있는 추천이 작동했고요. (뿐만 아니라) 덕후분들 사이에서 입소문이 나기 시작했어요” 5. “(사람이 어느 정도 모인 후에는) 본격적으로 스트리밍을 시작해도 되겠다는 확신이 들었는데요. 그래서 CP를 찾아다녔는데, (안타깝게도) 계속 거절당했습니다” 6. “얻을 것도 크지 않아 보이는데, 소중한 콘텐츠를 정체도 모를 작은 회사에 넘겨야 하니 리스크가 훨씬 크다고 생각하는 게 당연했죠. 계속 문을 두드리는 것 외에 특별한 방법은 없었어요” 7. “CP사 대표님을 만나고 싶은데, (아예) 기회조차 안 주시는 거예요? 그래서 한 번은 대표님 동선을 상상해서 주말에 데이트하는 척 그 주변을 배회한 적도 있고요. 팀원들이 모여서 손편지를 써서 보낸 적도 있어요” 8. “(그러다) 마침내 계약하겠다는 연락이 왔는데, 손편지가 도착하기 전이라길래 급하게 반송한 적도 있어요 ㅎㅎ 저희가 적극적으로 쫓아다니니까 속는 셈 치고 한 번 믿어주신 거죠. (그렇게 콘텐츠를 수급하기 위해 CP사 대표님을 덕질하듯 쫓아다녔습니다)” 9. “(동시에 애니메이션 플랫폼의 경우) 불법 사이트의 존재가 CP사들에게도 골치였어요. 건강하게 운영하는 스트리밍 서비스가 그들에게도 필요했죠” 10. “(콘텐츠를 수급했으니, 이제 남은 건 고객이 돈을 내도록 설득하는 것이었는데 다행히) 넷플릭스 같은 대형 OTT 성장이 큰 역할을 했습니다. 넷플릭스를 통해 소비자들이 "콘텐츠는 돈 내고 봐야 한다"라는 개념에 익숙해진 거예요” 11. “운도 좋았지만, 저희가 준비돼 있었기 때문에 트래픽을 흡수할 수 있었어요. 아마존 창업자 제프 베조스가 저렴하고 다양한 제품을 빠르게 배송하는 걸 강조했잖아요? (저희는) 디지털 콘텐츠도 비슷하다고 생각했어요” 12. “특히 이용자들이 최대한 빨리 볼 수 있게 하려고 많이 노력 했어요. 저희도 덕후인지라, 조금이라도 콘텐츠를 빨리 보고 싶은 마음을 잘 알거든요. 운영팀이 '집착' '광기'에 가까운 수준으로 서비스를 운영했어요” (=덕후들의 니즈 파악) 13. “보통 애니메이션 신작은 일본에서 공개된 이후 한국 TV에 공개돼요. TV에서 방송이 끝나면 OTT로 넘어오는데요. 그 틈새를 불법 사이트가 치고 들어갔습니다. (그래서) 신작이 처음 공개되는 시점과 국내에서 합법적으로 볼 수 있게 되는 시점의 차이가 너무 길다고 생각했어요” 14. “이 과정을 조금이라도 줄이고 싶어서, TV 방송이 끝나면 파일을 받아 빠르게 작업 후 바로 공개했어요. 새벽 3시에라도요. 덕분에 덕후분들 사이에서 '라프텔이 제일 빠르다'는 인식이 생겼어요” 15. “(라프텔은 인수되기 전부터 월 단위로 흑자를 내고 있었는데) '충성도 높은 고객의 선순환'이 만들어진 덕분이었어요. 덕후분들은 충성도가 강하고, 이 분야에 진심이기 때문에, 리텐션이 높은 편이니까요” 16. “또한 (애니메이션 OTT는) 구독자 수, MAU, 등 모든 지표의 변동 폭이 다른 OTT에 비해 훨씬 적은 편이에요. (그래서) 라프텔은 비용을 쏟아붓는 화려한 방식보다는 '소박한 진심'을 전달하며 서비스를 만들어 왔어요. 그래서 꾸준히 서비스를 성장시킬 수 있었다고 생각합니다” (=섣부른 규모화보다는 덕후들의 마음에 집중) - 김범준&amp;김남희 전 라프텔 공동창업자

www.folin.co

어쩌면 한국에서 로컬 OTT가 살아남는 거의 유일한 방법 ㄷㄷ

문장에서 '있는'을 쓰지 않는 편이 더 자연스러워요. 굳이 있다고 쓰지 않아도 존재하기 때문이죠. 포트폴리오 라이팅시 참고하시면 좋습니다.

포트폴리오 예시는?

🥹 화면 상단에 위치하고 있는 네비게이션 바.
😀 화면 상단에 위치한 네비게이션 바.

🥹 메인 화면에 표시되고 있는 알림 배너.
😀 메인 화면에 표시된 알림 배너.

🥹 페이지 하단에 있는 ‘저장’ 버튼.
😀 페이지 하단 ‘저장’ 버튼.

저도 '있는'을 자주 썼는데, 첫 책을 쓸 때 에디터 님의 권유로 빼는 연습을 했습니다. 문장이 더 간결하고 자연스러워질 거예요.

문장에서 '있는'을 쓰지 않는 편이 더 자연스러워요. 굳이 있다고 쓰지 않아도 존재하기 때문이죠. 포트폴리오 라이팅시 참고하시면 좋습니다. 포트폴리오 예시는? 🥹 화면 상단에 위치하고 있는 네비게이션 바.😀 화면 상단에 위치한 네비게이션 바. 🥹 메인 화면에 표시되고 있는 알림 배너.😀 메인 화면에 표시된 알림 배너. 🥹 페이지 하단에 있는 ‘저장’ 버튼.😀 페이지 하단 ‘저장’ 버튼. 저도 '있는'을 자주 썼는데, 첫 책을 쓸 때 에디터 님의 권유로 빼는 연습을 했습니다. 문장이 더 간결하고 자연스러워질 거예요.

📝 포트폴리오에 ‘있는’을 쓰지 않아도 돼요

[PaPa] 시니어를 위한 정서/생활지원 서비스 : 스타트업언박싱

스타트업언박싱 #디깅프로젝트 1기 멤버 배소정님이 준비한 해외 스타트업 PaPa👵🏻👴

시니어들을 위한 정서적 지원 서비스를 중점적으로 제공하고 있는 스타트업입니다.
요즘 키오스크 이용을 어려워하는 시니어 이야기는 유튜브와 기사를 통해 종종 접하곤 해요. 너무 빠르게 변하는 세상에 적응하기 어려워 하는 부모님을 위한 맞춤형 서비스네요. 한국에서는 시소라는 스타트업도 있으니 한번 살펴보시기를 추천드려요!

저는 개인적으로 B2B로 접근한 포인트가 가장 흥미로웠어요. 아이들 유치원을 복지 혜택으로 제공한 회사들은 봤지만… 직원 부모님을 위한 복지로 접근할거라고는 생각하질 못했어요😅

📚자세한 내용은 상단 링크 클릭해서 읽어보세요!

스타트업언박싱이란?
➡️앞서가는 사람들의 공간
함께 해외 스타트업을 리서치하고 공유하며 벤치마킹합니다✨🚀

Startupunboxing

한국 최초 메타버스 결혼식 진행자

글쓰는개미핥기

사용자가 좀 더 쉽게 서비스를 이용하도록 돕는 UX Writer 🤗

🎁 나는 내가 만난 사람들의 총체다.
🙄 '非주류의 Be주류'를 외쳤던 인간

💬 커피챗 언제든지 환영이에요!
✔ UX Writer 성장 클럽장💪
#UXWriter #UXWriting #UX라이팅

Bachelor of International Business Management

이수정

간만의 숲

스타트업언박싱

Building one company a year
스타트업언박싱, 간만의숲, 초효 사업을 만들고 있습니다
#스타트업

댓글 0

비슷한 게시물

주간 인기 TOP 10

추천 프로필