日本ヒューレット・パッカード（以下、HPE）でサーバー基盤のプリセールスSEに従事し、オープンソース・Linuxテクノロジーエバンジェリスト※、米国HPE公式AIアンバサダーの肩書きを持つ古賀政純。書籍執筆や講演活動と幅広く活躍し、HPEの技術情報を発信してきた古賀が、同社で働くやりがいや仕事への思いを語ります。※HPEの最先端技術情報を語るエキスパート

技術力と提案力で経営戦略を支える存在に──HPEで拓く技術者のキャリアパス｜日本ヒューレット・パッカード合同会社

커리어리 친구들, 지난 '프리세일즈' 책에 대해 추천사와 더불어 책을 소개했을 때, 프리세일즈의 역할은 고객에게 문제점을 잘 해결하고 적절한 솔루션을 제안해 영업하는 역할이라고 이야기했습니다. 그러한 길을 잘 가고 있는 동료가 이번에 일본에서 인터뷰한 글이 있어서 여러분들의 커리어패스에 도움이 될까 싶어서 작성해 드립니다.

우선 그의 동료 이름은 코가 마사유키이며, 일본 휴렛 팩커드 엔터프라이즈(이하, HPE)로 서버 기반의 프리세일즈 소프트웨어 엔지니어로 종사해 오픈 소스 Linux 테크놀로지 에반젤리스트로 활동하고 있습니다.

그는 저와 같이 미국 본사 HPE 공식 AI 앰배서더로 활동하고 있고, 서적 집필이나 강연 활동과 폭넓게 활약해, HPE의 기술 정보를 세일즈하는 역할하고 있습니다. 아래의 링크는 비롯 일본어지만 웹브라우저나 ChatGPT로 한글로 번역하면 쉽게 내용을 읽을 수 있으며, 그가 생각하는 일하는 보람이나 일에 대한 철학 등을 읽을 수 있습니다.

바쁘신 분들을 위해 요약하자면, 변화 무쌍한 IT 역사 속에서도 최신의 기술 정보를 Catch-up 해 서 회사 내외에서 기술 정보를 전달하고, 끊임없이 다양한 기술들을 계속 배우는 자세로 임하고 있답니다. 이러한 부분은 저 또한 비슷하게 커리어 경험을 쌓고 있어서 이러한 분야에 도전하는 분들에게 도움이 되고자 공유합니다.

https://www.talent-book.jp/hpe/stories/55244

커리어리 친구들, 지난 '프리세일즈' 책에 대해 추천사와 더불어 책을 소개했을 때, 프리세일즈의 역할은 고객에게 문제점을 잘 해결하고 적절한 솔루션을 제안해 영업하는 역할이라고 이야기했습니다. 그러한 길을 잘 가고 있는 동료가 이번에 일본에서 인터뷰한 글이 있어서 여러분들의 커리어패스에 도움이 될까 싶어서 작성해 드립니다. 우선 그의 동료 이름은 코가 마사유키이며, 일본 휴렛 팩커드 엔터프라이즈(이하, HPE)로 서버 기반의 프리세일즈 소프트웨어 엔지니어로 종사해 오픈 소스 Linux 테크놀로지 에반젤리스트로 활동하고 있습니다. 그는 저와 같이 미국 본사 HPE 공식 AI 앰배서더로 활동하고 있고, 서적 집필이나 강연 활동과 폭넓게 활약해, HPE의 기술 정보를 세일즈하는 역할하고 있습니다. 아래의 링크는 비롯 일본어지만 웹브라우저나 ChatGPT로 한글로 번역하면 쉽게 내용을 읽을 수 있으며, 그가 생각하는 일하는 보람이나 일에 대한 철학 등을 읽을 수 있습니다. 바쁘신 분들을 위해 요약하자면, 변화 무쌍한 IT 역사 속에서도 최신의 기술 정보를 Catch-up 해 서 회사 내외에서 기술 정보를 전달하고, 끊임없이 다양한 기술들을 계속 배우는 자세로 임하고 있답니다. 이러한 부분은 저 또한 비슷하게 커리어 경험을 쌓고 있어서 이러한 분야에 도전하는 분들에게 도움이 되고자 공유합니다. https://www.talent-book.jp/hpe/stories/55244

talentbook

<고객에게 HPE 기술 조언으로 커리어패스를 쌓고 있는 저의 동료>

Gemini in BigQuery features are now generally available, including SQL and Python code generation and explanation, and the BigQuery data canvas.

Gemini in BigQuery features are now GA | Google Cloud Blog

커리어리 친구들, 구글이 제미니를 통해 빅쿼리를 명령하고 SQL 실행할 때, 이제 인간이 사용하는 자연어를 제공한다는 블로그입니다. 빅쿼리 유저는 한번 시도해 보세요 :)

https://cloud.google.com/blog/products/data-analytics/gemini-in-bigquery-features-are-now-ga

커리어리 친구들, 구글이 제미니를 통해 빅쿼리를 명령하고 SQL 실행할 때, 이제 인간이 사용하는 자연어를 제공한다는 블로그입니다. 빅쿼리 유저는 한번 시도해 보세요 :) https://cloud.google.com/blog/products/data-analytics/gemini-in-bigquery-features-are-now-ga

Google Cloud Blog

<빅쿼리를 자연어로 명령>

🦾 OpenLLM is an open platform for operating large language models (LLMs) in production. It enables developers to easily run inference with any open-source LLMs, deploy to the cloud or on-premises, and build powerful AI apps.

OpenLLM | 🦜️🔗 LangChain

커리어리 친구들, OpenLLM은 대규모 언어 모델(LLM)을 운영하기 위한 오픈 플랫폼입니다. 이 플랫폼을 통해 개발자는 어떤 오픈소스 LLM이든 쉽게 추론(inference)을 실행할 수 있으며, 클라우드나 온프레미스 환경에 배포하고 강력한 AI 애플리케이션을 구축할 수 있습니다.

https://python.langchain.com/v0.2/docs/integrations/llms/openllm/

커리어리 친구들, OpenLLM은 대규모 언어 모델(LLM)을 운영하기 위한 오픈 플랫폼입니다. 이 플랫폼을 통해 개발자는 어떤 오픈소스 LLM이든 쉽게 추론(inference)을 실행할 수 있으며, 클라우드나 온프레미스 환경에 배포하고 강력한 AI 애플리케이션을 구축할 수 있습니다. https://python.langchain.com/v0.2/docs/integrations/llms/openllm/

python.langchain.com

<오픈소스용 openLLM>

커리어리 친구들, 오늘은 HPE AI@Hyperscale 컨퍼런스 행사에 부스 도우미로 출격했습니다. MLDE Gen AI Studio 데모를 보여 줬는 데, HPE Cray XD 670 (NVIDIA H100 8장) 실제 장비에 대해 뜨거운 관심 많네요 🙂

커리어리 친구들, 오늘은 HPE AI@Hyperscale 컨퍼런스 행사에 부스 도우미로 출격했습니다. MLDE Gen AI Studio 데모를 보여 줬는 데, HPE Cray XD 670 (NVIDIA H100 8장) 실제 장비에 대해 뜨거운 관심 많네요 🙂

<HPE CRAY XD670 보세요!>

A collection of (mostly) technical things every software developer should know about - mtdvio/every-programmer-should-know

GitHub - mtdvio/every-programmer-should-know: A collection of (mostly) technical things every software developer should know about

개발자라면 찜 해놔야하는 GitHub 저장소들

모든 프로그래머가 알아야하는 지식 모음
https://github.com/mtdvio/every-programmer-should-know
JS 프로젝트 50일동안 50개만들기
https://github.com/bradtraversy/50projects50days

모오던 웹개발
https://github.com/dexteryy/spellbook-of-modern-webdev

30초면 배울 수 있는 코드 스니핏들
https://github.com/Chalarangelo/30-seconds-of-code

개발 면접 핸드북
https://github.com/yangshun/tech-interview-handbook

개발자라면 찜 해놔야하는 GitHub 저장소들 모든 프로그래머가 알아야하는 지식 모음https://github.com/mtdvio/every-programmer-should-knowJS 프로젝트 50일동안 50개만들기https://github.com/bradtraversy/50projects50days 모오던 웹개발https://github.com/dexteryy/spellbook-of-modern-webdev 30초면 배울 수 있는 코드 스니핏들https://github.com/Chalarangelo/30-seconds-of-code 개발 면접 핸드북https://github.com/yangshun/tech-interview-handbook

GitHub

SQL을 처음부터 제대로 공부하고 싶지만, 어떻게 공부해야 할지 망설이고 있나요?

아래의 SQL 마인드맵으로 초보 단계부터 고급 단계까지 차근차근 공부해봐요.

 1. 초보 단계 (Basic)
    * SELECT
    * FROM
    * WHERE
    * ORDER BY
    * AGGREGATE
    * GROUP BY
    * LIMIT
 2. 중급 단계 (Intermediate)
    * LEFT JOIN
    * INNER JOIN
    * LIKE
    * IN
    * CASE WHEN
    * HAVING
    * UNION ALL
 3. 고급 단계 (Advanced)
    * SUBQUERY
    * CTE (WITH)
    * STORED PRECEDURE
    * TRIGGER
    * WINDOW FUNCTION
 4. 연습 단계 (Practice)
    * BASIC SQL PROJECT (SQL 기초 프로젝트)
    * INTERMEDIATE SQL PROJECT(SQL 중급 프로젝트)
    * ADVANCED SQL PROJECT(SQL 고급 프로젝트)

#데이터리차드 #SQL #로드맵

SQL을 처음부터 제대로 공부하고 싶지만, 어떻게 공부해야 할지 망설이고 있나요? 아래의 SQL 마인드맵으로 초보 단계부터 고급 단계까지 차근차근 공부해봐요. <ol ><li>초보 단계 (Basic)<ul ><li>SELECT</li><li>FROM</li><li>WHERE</li><li>ORDER BY</li><li>AGGREGATE</li><li>GROUP BY</li><li>LIMIT</li></ul></li><li>중급 단계 (Intermediate)<ul ><li>LEFT JOIN</li><li>INNER JOIN</li><li>LIKE</li><li>IN</li><li>CASE WHEN</li><li>HAVING</li><li>UNION ALL</li></ul></li><li>고급 단계 (Advanced)<ul ><li>SUBQUERY</li><li>CTE (WITH)</li><li>STORED PRECEDURE</li><li>TRIGGER</li><li>WINDOW FUNCTION</li></ul></li><li>연습 단계 (Practice)<ul ><li>BASIC SQL PROJECT (SQL 기초 프로젝트)</li><li>INTERMEDIATE SQL PROJECT(SQL 중급 프로젝트)</li><li>ADVANCED SQL PROJECT(SQL 고급 프로젝트)</li></ul></li></ol> #데이터리차드 #SQL #로드맵

SQL 학습 로드맵

커리어리 친구들, 오픈AI가 재배한 딸기(strawberry, o1)를 잘 따서 먹고(사용하고) 있습니꽈? ㅎㅎ 현재 온통 제 페북 탐라에 딸기 얘기 밖에 없네요!! 일반 분들은 가을에 왠 딸기?? 라고 하겠지만 … 공개된 블로그를 읽고 제가 느낀 점에 대해 몇 가지 적어 보고자 합니다.

이번 ‘딸기’ 버전에서 크게 향상 된 것은 추론 시간을 단축시키고 동시에 많은 사용자가 사용할 수 있도록 추론을 확장시켜 추론 패러다임을 대중화시켰다고 봅니다. 물론 ‘딸기’ 이전에 그록(Groq, 일론 아저씨 Grok2 아님) 에서 엄청나게 빠른 추론 경험을 해 보신 분들이 있을 것 입니다.

강화 학습(Reinforcement Learning)의 선구자들 중 한 명인 리차드 서튼(Richard S. Sutton) 은, 컴퓨팅 자원이 증가함에 따라 무한히 확장될 수 있는 두 가지 핵심 기술이 '학습'(learning)과 '탐색'(search) 라고 보았습니다. 이 내용은 2019년에 작성한 에세이인 “쓴 교훈(The Bitter Lesson)"에서 비롯되었는 데, 특정한 인간의 지식이나 전문성을 모델에 주입하는 것보다, 계산 능력의 증가와 함께 일반적인 학습 알고리즘을 사용하는 것이 더 효과적이라는 점을 강조했습니다.

딸기는 이러한 후자인 검색에 초점을 맞추지 않았나 생각합니다.

1. 사실 추론을 수행하기 위해 거대한 모델은 필요하지 않습니다. 수 많은 파라미터가 Trivia QA와 같은 벤치마크에서 좋은 성능을 내기 위해 사실을 암기하는 데 사용됩니다. 또한, 지식에서 추론을 분리하는 것이 가능합니다.

즉, 웹브라우저나 코드 검증기와 같은 도구를 호출하는 방법을 아는 작은 "추론 코어"를 사용하는 것입니다. 그렇게 하면, 사전 훈련에 필요한 계산량이 줄어들 수 있습니다.

2. 막대한 양의 계산이 사전/후 훈련 대신 추론 서비스 제공으로 이동합니다. LLM은 텍스트 기반 시뮬레이터와도 유사한 데, 시뮬레이터에서 다양한 전략과 시나리오를 전개함으로써, 모델은 결국 좋은 솔루션으로 수렴하게 됩니다. 이 과정은 AlphaGo의 몬테카를로 트리 탐색(MCTS)과 같은 연구에서도 잘 보여 줍니다.

3. 수 억명이 사용하고 있는 OpenAI는 오래전에 추론 스케일링 법칙을 알아냈을 것이며, 이는 학계가 최근에야 발견하지 않았을까 추측해 봅니다. 주요 논문 근거는 다음과 같습니다.

- Large Language Monkeys: Scaling Inference Compute with Repeated Sampling : DeepSeek-Coder가 SWE-Bench에서 샘플 하나로 15.9%에서 250개의 샘플로 56%로 증가하여 Sonnet-3.5를 능가한다는 것을 발견했습니다.

- Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters: 이 논문은 PaLM 2-S가 테스트 시간 검색을 통해 MATH에서 14배 더 큰 모델을 능가한다는 것을 보여주었습니다.

4. 딸기의 실제 프로덕션에 적용하는 것은 학술적 벤치마크를 달성하는 것보다 훨씬 어려울 것 같습니다. 현재 ‘딸기’ 버전은 대부분 잘 생각(COT)해서 좋은 결과를 보여 주지만, 몇몇은 기대한 만큼 ‘reasoning’이 동작하지 않은 것이 여기 저기 탐라에 올라 온 글들을 보았습니다. (아직 베타 이전의 프리뷰 버전임을 감안)

또한, 실제 환경에서의 추론 문제에 대해, 언제 탐색을 중지해야 할까요? 보상 함수는 무엇일까요? 성공 기준은 무엇인가요? 언제 코드 인터프리터와 같은 도구를 루프에 호출해야 할까요? 이러한 CPU 프로세스의 계산 비용을 어떻게 고려할까요? 이에 대해 오픈AI에서 자세히 공개하지 않았습니다.

5. 딸기 버전은 쉽게 데이터 플라이휠이 될 수 있습니다. 만약 답변이 정확하다면, 전체 탐색 추적이 긍정적이고 부정적인 보상을 모두 포함하는 작은 학습 예제 데이터셋이 될 것 입니다.

그러니깐 여러분들은 많이 쓰면 쓸수록 일종의 강화 학습과 차세대 GPT를 위한 추론 코어를 향상 시켜 줄 것 입니다 🙂 (전 세계 사용자들을 이용해 베타 테스트중 ㅡ.ㅡ)

커리어리 친구들, 오픈AI가 재배한 딸기(strawberry, o1)를 잘 따서 먹고(사용하고) 있습니꽈? ㅎㅎ 현재 온통 제 페북 탐라에 딸기 얘기 밖에 없네요!! 일반 분들은 가을에 왠 딸기?? 라고 하겠지만 … 공개된 블로그를 읽고 제가 느낀 점에 대해 몇 가지 적어 보고자 합니다. 이번 ‘딸기’ 버전에서 크게 향상 된 것은 추론 시간을 단축시키고 동시에 많은 사용자가 사용할 수 있도록 추론을 확장시켜 추론 패러다임을 대중화시켰다고 봅니다. 물론 ‘딸기’ 이전에 그록(Groq, 일론 아저씨 Grok2 아님) 에서 엄청나게 빠른 추론 경험을 해 보신 분들이 있을 것 입니다. 강화 학습(Reinforcement Learning)의 선구자들 중 한 명인 리차드 서튼(Richard S. Sutton) 은, 컴퓨팅 자원이 증가함에 따라 무한히 확장될 수 있는 두 가지 핵심 기술이 '학습'(learning)과 '탐색'(search) 라고 보았습니다. 이 내용은 2019년에 작성한 에세이인 “쓴 교훈(The Bitter Lesson)"에서 비롯되었는 데, 특정한 인간의 지식이나 전문성을 모델에 주입하는 것보다, 계산 능력의 증가와 함께 일반적인 학습 알고리즘을 사용하는 것이 더 효과적이라는 점을 강조했습니다. 딸기는 이러한 후자인 검색에 초점을 맞추지 않았나 생각합니다. 1. 사실 추론을 수행하기 위해 거대한 모델은 필요하지 않습니다. 수 많은 파라미터가 Trivia QA와 같은 벤치마크에서 좋은 성능을 내기 위해 사실을 암기하는 데 사용됩니다. 또한, 지식에서 추론을 분리하는 것이 가능합니다. 즉, 웹브라우저나 코드 검증기와 같은 도구를 호출하는 방법을 아는 작은 "추론 코어"를 사용하는 것입니다. 그렇게 하면, 사전 훈련에 필요한 계산량이 줄어들 수 있습니다. 2. 막대한 양의 계산이 사전/후 훈련 대신 추론 서비스 제공으로 이동합니다. LLM은 텍스트 기반 시뮬레이터와도 유사한 데, 시뮬레이터에서 다양한 전략과 시나리오를 전개함으로써, 모델은 결국 좋은 솔루션으로 수렴하게 됩니다. 이 과정은 AlphaGo의 몬테카를로 트리 탐색(MCTS)과 같은 연구에서도 잘 보여 줍니다. 3. 수 억명이 사용하고 있는 OpenAI는 오래전에 추론 스케일링 법칙을 알아냈을 것이며, 이는 학계가 최근에야 발견하지 않았을까 추측해 봅니다. 주요 논문 근거는 다음과 같습니다. - Large Language Monkeys: Scaling Inference Compute with Repeated Sampling : DeepSeek-Coder가 SWE-Bench에서 샘플 하나로 15.9%에서 250개의 샘플로 56%로 증가하여 Sonnet-3.5를 능가한다는 것을 발견했습니다. - Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters: 이 논문은 PaLM 2-S가 테스트 시간 검색을 통해 MATH에서 14배 더 큰 모델을 능가한다는 것을 보여주었습니다. 4. 딸기의 실제 프로덕션에 적용하는 것은 학술적 벤치마크를 달성하는 것보다 훨씬 어려울 것 같습니다. 현재 ‘딸기’ 버전은 대부분 잘 생각(COT)해서 좋은 결과를 보여 주지만, 몇몇은 기대한 만큼 ‘reasoning’이 동작하지 않은 것이 여기 저기 탐라에 올라 온 글들을 보았습니다. (아직 베타 이전의 프리뷰 버전임을 감안) 또한, 실제 환경에서의 추론 문제에 대해, 언제 탐색을 중지해야 할까요? 보상 함수는 무엇일까요? 성공 기준은 무엇인가요? 언제 코드 인터프리터와 같은 도구를 루프에 호출해야 할까요? 이러한 CPU 프로세스의 계산 비용을 어떻게 고려할까요? 이에 대해 오픈AI에서 자세히 공개하지 않았습니다. 5. 딸기 버전은 쉽게 데이터 플라이휠이 될 수 있습니다. 만약 답변이 정확하다면, 전체 탐색 추적이 긍정적이고 부정적인 보상을 모두 포함하는 작은 학습 예제 데이터셋이 될 것 입니다. 그러니깐 여러분들은 많이 쓰면 쓸수록 일종의 강화 학습과 차세대 GPT를 위한 추론 코어를 향상 시켜 줄 것 입니다 🙂 (전 세계 사용자들을 이용해 베타 테스트중 ㅡ.ㅡ)

<오픈AI의 딸기(o1) 서비스에 대한 저의 견해>

As GenAI adoption surges, organizations face new security risks. Learn to protect your AI systems from prompt hacking and other emerging threats.

Protecting Systems in the Age of Generative AI - DZone

생성형 AI(GenAI)와 대규모 언어 모델(LLM)의 빠른 도입은 전례 없는 속도로 산업을 변화시키고 있습니다. 거의 90%에 가까운 조직이 이러한 혁신적인 기술의 힘을 활용하기 위해 LLM 사용 사례를 적극적으로 구현하거나 탐색하고 있습니다. 그러나 이러한 열정은 보안에 대한 준비 부족이라는 우려스러운 상황과 맞물려 있습니다. Lakera의 최근 GenAI 준비도 보고서에 따르면 약 5%의 조직만이 GenAI 보안 프레임워크에 자신감을 갖고 있는 것으로 나타났습니다.

프롬프트 해킹의 부상
GenAI가 광범위하게 도입되면서 잠재적으로 파괴적인 새로운 위협인 프롬프트 해킹이 등장했습니다. 광범위한 코딩 지식이 필요한 기존의 해킹 방법과 달리, 프롬프트 해킹은 AI 시스템을 악용할 수 있는 능력을 대중화합니다. 초보자도 몇 마디만 잘 익히면 AI 모델을 조작할 수 있어 의도치 않은 행동과 잠재적인 데이터 유출로 이어질 수 있습니다.

무료 LLM 해킹 시뮬레이션 게임인 Lakera의 간달프는 이러한 위협을 극명하게 보여줍니다. 현재까지 기록된 100만 명의 간달프 플레이어와 총 5천만 건의 프롬프트 및 추측 중 무려 20만 명이 게임 전체를 해킹하는 데 성공했습니다. GenAI가 얼마나 쉽게 조작될 수 있는지를 보여주는 이 사례는 적절한 보안 조치 없이 이러한 기술을 서둘러 도입하려는 조직에 경각심을 불러일으킬 것입니다.
 * Gandalf: https://gandalf.lakera.ai/intro

GenAI 보안 대비 현황
간달프 시뮬레이션 데이터와 1,000명이 넘는 참가자의 설문조사 결과를 결합한 Lakera의 GenAI 준비보고서는 GenAI 보안의 현주소를 우려스럽게 보여줍니다:
 * 높은 도입률, 낮은 신뢰도: 응답자의 42%는 이미 GenAI를 적극적으로 사용하고 LLM을 구현하고 있지만, 5%만이 AI 보안 조치에 대해 확신
 * AI 전용 위협 모델링 부족: 22%만이 GenAI 전용 위협에 대비하기 위해 AI 전용 위협 모델링 도입
 * 다양한 보안 관행: 조직의 61%가 접근 제어 메커니즘을 구현했지만, 37%만이 침투 테스트를 사용하고 있으며, AI 전용 위협 모델링을 사용하는 기업은 22%에 불과
 * 취약점에 대한 느린 대응: GenAI 취약점을 발견한 조직의 20%는 이러한 문제가 아직 완전히 해결되지 않음
   
   
위험에 대한 이해
GenAI와 관련된 보안 위험은 단순한 데이터 유출 그 이상으로 사소한 운영 중단부터 중대한 데이터 유출 및 법적 결과에 이르기까지 광범위할 수 있습니다. 보고서에서 확인된 주요 취약점은 다음과 같습니다:
 * 편향된 출력: 취약점을 경험한 조직의 47%가 편향된 AI 출력 문제 보고
 * 데이터 유출: 42%는 AI 상호 작용을 통해 민감한 데이터가 노출되는 문제 경험
 * AI 결과물의 오용: 38%는 AI가 생성한 정보가 오용된 사례 보고
 * 모델 조작: 34%는 AI 모델을 변경하거나 조작하려는 시도 경험
 * 무단 액세스: 19%는 권한이 없는 사람이 GenAI 시스템에 액세스하는 문제 직면

AI 전용 위협 모델링 구현하기
조직은 GenAI가 제기하는 고유한 보안 문제를 해결하기 위해 AI 전용 위협 모델링 관행을 채택해야 합니다. 이 접근 방식에는 다음이 포함됩니다:
 * AI 전용 자산 식별: 학습 데이터, 모델 아키텍처, 추론 엔드포인트 등 AI 시스템의 고유한 구성 요소 인식
 * 공격 표면 매핑: 공격자가 입력 데이터 중독, 모델 반전 공격, 프롬프트 인젝션 등을 통해 어떻게 AI 시스템을 조작하려고 시도하는지 이해
 * 잠재적 위협 분석: 전통적인 사이버 보안 위협과 모델 도용 또는 출력 조작과 같은 AI 관련 위험 고려
 * 완화 전략 구현: 강력한 입력 유효성 검사, 출력 필터링, 지속적인 모델 모니터링 등 AI 시스템에 맞는 보안 조치 개발 및 배포
 * 정기적인 테스트 및 업데이트: 지속적인 보안 평가를 수행하고 새로운 취약점과 공격 벡터가 등장하면 위협 모델 업데이트

GenAI 시스템 보안을 위한 모범 사례
GenAI 도입과 보안 사이의 격차를 해소하기 위해 조직은 다음과 같은 모범 사례를 고려해야 합니다:
 * 강력한 액세스 제어 구현: 잠재적인 공격 경로를 제한하려면 역할 기반 액세스 제어와 최소 권한 원칙 사용
 * 민감한 데이터 암호화: 모든 AI 학습 및 추론 데이터가 전송 중이거나 미사용 상태일 때 모두 적절하게 암호화되어 있는지 확인
 * 정기적인 보안 감사 실시: 내부 및 외부 보안 감사를 수행하여 취약점을 사전에 파악하고 해결
 * 모의 침투 테스트 실시: 잠재적인 공격에 대해 정기적으로 AI 시스템을 테스트하여 취약점이 악용되기 전에 발견
 * 안전한 AI 관행 개발: 데이터 수집부터 모델 배포에 이르기까지 AI 개발 수명 주기 전반에 걸쳐 보안 고려 사항 통합
 * 최신 정보 파악: 업계 포럼, 보안 권고, 연구원과의 협업을 통해 최신 AI 보안 위협과 모범 사례 파악
 * 공식적인 AI 보안 정책 수립: 조직 내 AI 시스템과 관련된 포괄적인 보안 정책을 개발및 시행
 * AI 보안 전문 지식 투자: AI 보안에 대한 전문 지식을 갖춘 팀을 구성하거나 확보하여 이러한 시스템의 고유한 문제 해결

앞으로 나아갈 길
GenAI가 계속해서 산업을 혁신함에 따라 강력한 보안 조치의 중요성은 아무리 강조해도 지나치지 않습니다. AI에 특화된 위협 모델링을 구현하고, GenAI 보안 모범 사례를 채택하고, 지속적인 학습과 적응의 문화를 조성함으로써 조직은 안전한 AI 혁신을 위한 강력한 기반을 구축할 수 있습니다. 이 새로운 영역을 탐색할 때 성공의 열쇠는 GenAI의 혁신적 힘을 활용하는 것과 AI 시스템의 안전과 무결성을 보장하는 것 사이에서 적절한 균형을 유지하는 데 있습니다.

 * source: https://dzone.com/articles/protecting-systems-in-the-age-of-genai?utm_source=Sailthru&utm_medium=email&utm_campaign=e731_09.11.24_WednesdaySend_Spotlight_Threatconnect&utm_term=cloud-insider-active

생성형 AI(GenAI)와 대규모 언어 모델(LLM)의 빠른 도입은 전례 없는 속도로 산업을 변화시키고 있습니다. 거의 90%에 가까운 조직이 이러한 혁신적인 기술의 힘을 활용하기 위해 LLM 사용 사례를 적극적으로 구현하거나 탐색하고 있습니다. 그러나 이러한 열정은 보안에 대한 준비 부족이라는 우려스러운 상황과 맞물려 있습니다. Lakera의 최근 GenAI 준비도 보고서에 따르면 약 5%의 조직만이 GenAI 보안 프레임워크에 자신감을 갖고 있는 것으로 나타났습니다. 프롬프트 해킹의 부상GenAI가 광범위하게 도입되면서 잠재적으로 파괴적인 새로운 위협인 프롬프트 해킹이 등장했습니다. 광범위한 코딩 지식이 필요한 기존의 해킹 방법과 달리, 프롬프트 해킹은 AI 시스템을 악용할 수 있는 능력을 대중화합니다. 초보자도 몇 마디만 잘 익히면 AI 모델을 조작할 수 있어 의도치 않은 행동과 잠재적인 데이터 유출로 이어질 수 있습니다. 무료 LLM 해킹 시뮬레이션 게임인 Lakera의 간달프는 이러한 위협을 극명하게 보여줍니다. 현재까지 기록된 100만 명의 간달프 플레이어와 총 5천만 건의 프롬프트 및 추측 중 무려 20만 명이 게임 전체를 해킹하는 데 성공했습니다. GenAI가 얼마나 쉽게 조작될 수 있는지를 보여주는 이 사례는 적절한 보안 조치 없이 이러한 기술을 서둘러 도입하려는 조직에 경각심을 불러일으킬 것입니다.<ul ><li>Gandalf: https://gandalf.lakera.ai/intro</li></ul> GenAI 보안 대비 현황간달프 시뮬레이션 데이터와 1,000명이 넘는 참가자의 설문조사 결과를 결합한 Lakera의 GenAI 준비보고서는 GenAI 보안의 현주소를 우려스럽게 보여줍니다:<ul ><li>높은 도입률, 낮은 신뢰도: 응답자의 42%는 이미 GenAI를 적극적으로 사용하고 LLM을 구현하고 있지만, 5%만이 AI 보안 조치에 대해 확신</li><li>AI 전용 위협 모델링 부족: 22%만이 GenAI 전용 위협에 대비하기 위해 AI 전용 위협 모델링 도입</li><li>다양한 보안 관행: 조직의 61%가 접근 제어 메커니즘을 구현했지만, 37%만이 침투 테스트를 사용하고 있으며, AI 전용 위협 모델링을 사용하는 기업은 22%에 불과</li><li>취약점에 대한 느린 대응: GenAI 취약점을 발견한 조직의 20%는 이러한 문제가 아직 완전히 해결되지 않음 </li></ul>위험에 대한 이해GenAI와 관련된 보안 위험은 단순한 데이터 유출 그 이상으로 사소한 운영 중단부터 중대한 데이터 유출 및 법적 결과에 이르기까지 광범위할 수 있습니다. 보고서에서 확인된 주요 취약점은 다음과 같습니다:<ul ><li>편향된 출력: 취약점을 경험한 조직의 47%가 편향된 AI 출력 문제 보고</li><li>데이터 유출: 42%는 AI 상호 작용을 통해 민감한 데이터가 노출되는 문제 경험</li><li>AI 결과물의 오용: 38%는 AI가 생성한 정보가 오용된 사례 보고</li><li>모델 조작: 34%는 AI 모델을 변경하거나 조작하려는 시도 경험</li><li>무단 액세스: 19%는 권한이 없는 사람이 GenAI 시스템에 액세스하는 문제 직면</li></ul> AI 전용 위협 모델링 구현하기조직은 GenAI가 제기하는 고유한 보안 문제를 해결하기 위해 AI 전용 위협 모델링 관행을 채택해야 합니다. 이 접근 방식에는 다음이 포함됩니다:<ul ><li>AI 전용 자산 식별: 학습 데이터, 모델 아키텍처, 추론 엔드포인트 등 AI 시스템의 고유한 구성 요소 인식</li><li>공격 표면 매핑: 공격자가 입력 데이터 중독, 모델 반전 공격, 프롬프트 인젝션 등을 통해 어떻게 AI 시스템을 조작하려고 시도하는지 이해</li><li>잠재적 위협 분석: 전통적인 사이버 보안 위협과 모델 도용 또는 출력 조작과 같은 AI 관련 위험 고려</li><li>완화 전략 구현: 강력한 입력 유효성 검사, 출력 필터링, 지속적인 모델 모니터링 등 AI 시스템에 맞는 보안 조치 개발 및 배포</li><li>정기적인 테스트 및 업데이트: 지속적인 보안 평가를 수행하고 새로운 취약점과 공격 벡터가 등장하면 위협 모델 업데이트</li></ul> GenAI 시스템 보안을 위한 모범 사례GenAI 도입과 보안 사이의 격차를 해소하기 위해 조직은 다음과 같은 모범 사례를 고려해야 합니다:<ul ><li>강력한 액세스 제어 구현: 잠재적인 공격 경로를 제한하려면 역할 기반 액세스 제어와 최소 권한 원칙 사용</li><li>민감한 데이터 암호화: 모든 AI 학습 및 추론 데이터가 전송 중이거나 미사용 상태일 때 모두 적절하게 암호화되어 있는지 확인</li><li>정기적인 보안 감사 실시: 내부 및 외부 보안 감사를 수행하여 취약점을 사전에 파악하고 해결</li><li>모의 침투 테스트 실시: 잠재적인 공격에 대해 정기적으로 AI 시스템을 테스트하여 취약점이 악용되기 전에 발견</li><li>안전한 AI 관행 개발: 데이터 수집부터 모델 배포에 이르기까지 AI 개발 수명 주기 전반에 걸쳐 보안 고려 사항 통합</li><li>최신 정보 파악: 업계 포럼, 보안 권고, 연구원과의 협업을 통해 최신 AI 보안 위협과 모범 사례 파악</li><li>공식적인 AI 보안 정책 수립: 조직 내 AI 시스템과 관련된 포괄적인 보안 정책을 개발및 시행</li><li>AI 보안 전문 지식 투자: AI 보안에 대한 전문 지식을 갖춘 팀을 구성하거나 확보하여 이러한 시스템의 고유한 문제 해결</li></ul> 앞으로 나아갈 길GenAI가 계속해서 산업을 혁신함에 따라 강력한 보안 조치의 중요성은 아무리 강조해도 지나치지 않습니다. AI에 특화된 위협 모델링을 구현하고, GenAI 보안 모범 사례를 채택하고, 지속적인 학습과 적응의 문화를 조성함으로써 조직은 안전한 AI 혁신을 위한 강력한 기반을 구축할 수 있습니다. 이 새로운 영역을 탐색할 때 성공의 열쇠는 GenAI의 혁신적 힘을 활용하는 것과 AI 시스템의 안전과 무결성을 보장하는 것 사이에서 적절한 균형을 유지하는 데 있습니다. <ul ><li>source: https://dzone.com/articles/protecting-systems-in-the-age-of-genai?utm_source=Sailthru&amp;utm_medium=email&amp;utm_campaign=e731_09.11.24_WednesdaySend_Spotlight_Threatconnect&amp;utm_term=cloud-insider-active</li></ul>

dzone.com

[DZone] AI 보안 격차: 생성 AI 시대의 시스템 보호

YouTube에서 마음에 드는 동영상과 음악을 감상하고, 직접 만든 콘텐츠를 업로드하여 친구, 가족뿐 아니라 전 세계 사람들과 콘텐츠를 공유할 수 있습니다.

 - YouTube

AutoParams 덕분에 3년 이상을 Spring Boot 앱 개발에 TDD를 덜 힘들게 적용했습니다. 누군가에게 조금이라도 더 도움이 되길 바라며 올해 스프링 캠프에서 AutoParams의 목적과 아키텍처, 사용법을 설명하는 자리를 가졌습니다.

AutoParams 덕분에 3년 이상을 Spring Boot 앱 개발에 TDD를 덜 힘들게 적용했습니다. 누군가에게 조금이라도 더 도움이 되길 바라며 올해 스프링 캠프에서 AutoParams의 목적과 아키텍처, 사용법을 설명하는 자리를 가졌습니다.

youtu.be

AutoParams를 사용한 Spring Boot 응용프로그램 테스트

Disasters can happen to business IT systems at any time and at any place. IT failures and malfunctions can never be completely ruled out. This applies not only to natural disasters but also to simple human errors or cyber-attacks. Any of these situations significantly affect business operations, so a company's ability to withstand emergencies depends on its disaster recovery plan.

7 tiers of disaster recovery

재해 복구(DR)는 조직의 중요한 IT 시스템을 백업하고 다시 실행하는 프로세스입니다.

재해 복구 계획(DRP)은 데이터 복구 단계가 포함된 문서로, 담당 직원 목록과 역할 및 책임, IT 인프라를 보호하고 복구하기 위한 일련의 조치를 포함합니다. 잘 설계된 DRP를 통해 조직은 예기치 않은 중단에도 고객, 파트너, 직원에게 서비스를 계속 제공할 수 있을 뿐만 아니라 데이터 손실을 크게 줄일 수 있습니다.

1980년대 후반, SHARE 기술 운영 위원회는 재해 복구를 위한 서비스 계층을 설명했습니다. 이들은 0~6계층을 사용하는 모델을 개발했습니다. 나중에 일곱 번째 계층이 추가되었습니다. 비즈니스 연속성을 위한 7단계는 현재 서비스 수준과 관련 위험을 결정하는 방법입니다.

< 재해 복구 서비스 수준 >
 * 레벨 0: 오프사이트 데이터 없음(No off-site data)
 * 이 경우 복구가 전혀 불가능할 수 있습니다.
 * 이 회사는 저장된 정보, 문서, 백업 장비, 비상 계획 등 비즈니스 연속성 계획이 전혀 없습니다. 따라서 복구에 필요한 시간을 예측할 수 없습니다.

 * Tier 1: 핫 사이트가 없는 데이터 백업(Data backups with no hot site)
 * 특정 간격으로 데이터를 백업한 다음 물리적으로 오프사이트 시설로 백업을 전송하여 저장합니다.
 * 백업 생성 빈도에 따라 조직은 며칠 또는 몇 주 동안의 데이터 손실에 대비해야 합니다.
 * 이 수준에서는 백업이 오프사이트에서 안전하게 보호되지만 데이터 복구를 위한 시스템이 없습니다.

 * Tier2: : 핫 사이트를 통한 데이터 백업(Data Backup with a Hot Site)
 * 티어 1과 동일한 재해 복구 조항을 제공하지만, 일반적으로 핫 사이트라고 하는 원격 위치에 백업 시스템을 추가로 제공합니다.
 * 이 시스템은 주 시스템과 동일한 데이터 프로세스를 처리합니다.
 * 재해가 발생하면 이 백업 시스템에서 백업을 복원할 수 있습니다.
 * 이 방식은 시스템 자체가 아닌 데이터만 복원하면 되므로 시스템 복구 속도가 빠릅니다.

 * Tier3: 전자 볼트(Electronic vaulting)
 * 계층 2 구성 요소를 기반으로 하지만 중요한 데이터는 전용 채널을 통해 원격 서버(전자 금고)에 영구적으로 백업해야 한다는 추가 조항이 있습니다.
 * 이러한 채널의 대역폭이 제한되어 있으므로 미리 정의된 중요 데이터에 대해서만 백업을 수행할 수 있습니다.
 
 
 * Tier4: 특정 시점 사본(Point-in-Time Copies)
 * 하위 계층보다 더 높은 데이터 무결성과 빠른 복구가 필요한 조직을 위해 설계되었습니다.
 * 솔루션에는 하드 드라이브가 포함됩니다.
 * 데이터는 기본 사이트와 보조 사이트 간에 복사되며, 각 사이트는 서로를 백업합니다.

 * Tier5: 트랜잭션 무결성(Transaction Integrity)
 * 데이터 일관성이 필요한 기업에서 사용하는 솔루션입니다.
 * 데이터는 사이트(프로덕션 데이터 센터와 데이터 복구 센터) 간에 지속적으로 전송되므로 데이터 손실이 없습니다.
 
 
 * Tier6: 데이터 손실이 없거나 거의 없음(Zero or near-zero data loss)
 * 데이터 손실이 거의 또는 전혀 없는 최고 수준의 데이터 무결성을 입증합니다.
 * 데이터 복구가 최우선 순위입니다. 이러한 솔루션에는 종종 어떤 형태의 디스크 미러링이 필요합니다.

 * Tier7: 고도로 자동화된 비즈니스 통합 솔루션
 * 가장 높은 수준의 DR 시나리오.
 * 티어 6 솔루션에 사용되는 모든 구성 요소에 추가 자동화가 포함됩니다.
 * 데이터 복구가 자동화되어 시스템과 애플리케이션을 빠르고 안정적으로 복구할 수 있습니다.

 * source: https://www.cloud4u.com/blog/seven-tiers-of-disaster-recovery/

재해 복구(DR)는 조직의 중요한 IT 시스템을 백업하고 다시 실행하는 프로세스입니다. 재해 복구 계획(DRP)은 데이터 복구 단계가 포함된 문서로, 담당 직원 목록과 역할 및 책임, IT 인프라를 보호하고 복구하기 위한 일련의 조치를 포함합니다. 잘 설계된 DRP를 통해 조직은 예기치 않은 중단에도 고객, 파트너, 직원에게 서비스를 계속 제공할 수 있을 뿐만 아니라 데이터 손실을 크게 줄일 수 있습니다. 1980년대 후반, SHARE 기술 운영 위원회는 재해 복구를 위한 서비스 계층을 설명했습니다. 이들은 0~6계층을 사용하는 모델을 개발했습니다. 나중에 일곱 번째 계층이 추가되었습니다. 비즈니스 연속성을 위한 7단계는 현재 서비스 수준과 관련 위험을 결정하는 방법입니다. &lt; 재해 복구 서비스 수준 &gt;<ul ><li>레벨 0: 오프사이트 데이터 없음(No off-site data)<ul ><li>이 경우 복구가 전혀 불가능할 수 있습니다. </li><li>이 회사는 저장된 정보, 문서, 백업 장비, 비상 계획 등 비즈니스 연속성 계획이 전혀 없습니다. 따라서 복구에 필요한 시간을 예측할 수 없습니다.</li></ul></li></ul> <ul ><li>Tier 1: 핫 사이트가 없는 데이터 백업(Data backups with no hot site)<ul ><li>특정 간격으로 데이터를 백업한 다음 물리적으로 오프사이트 시설로 백업을 전송하여 저장합니다. </li><li>백업 생성 빈도에 따라 조직은 며칠 또는 몇 주 동안의 데이터 손실에 대비해야 합니다. </li><li>이 수준에서는 백업이 오프사이트에서 안전하게 보호되지만 데이터 복구를 위한 시스템이 없습니다.</li></ul></li></ul> <ul ><li>Tier2: : 핫 사이트를 통한 데이터 백업(Data Backup with a Hot Site)<ul ><li>티어 1과 동일한 재해 복구 조항을 제공하지만, 일반적으로 핫 사이트라고 하는 원격 위치에 백업 시스템을 추가로 제공합니다. </li><li>이 시스템은 주 시스템과 동일한 데이터 프로세스를 처리합니다. </li><li>재해가 발생하면 이 백업 시스템에서 백업을 복원할 수 있습니다. </li><li>이 방식은 시스템 자체가 아닌 데이터만 복원하면 되므로 시스템 복구 속도가 빠릅니다.</li></ul></li></ul> <ul ><li>Tier3: 전자 볼트(Electronic vaulting)<ul ><li>계층 2 구성 요소를 기반으로 하지만 중요한 데이터는 전용 채널을 통해 원격 서버(전자 금고)에 영구적으로 백업해야 한다는 추가 조항이 있습니다. </li><li>이러한 채널의 대역폭이 제한되어 있으므로 미리 정의된 중요 데이터에 대해서만 백업을 수행할 수 있습니다. </li></ul></li><li>Tier4: 특정 시점 사본(Point-in-Time Copies)<ul ><li>하위 계층보다 더 높은 데이터 무결성과 빠른 복구가 필요한 조직을 위해 설계되었습니다. </li><li>솔루션에는 하드 드라이브가 포함됩니다. </li><li>데이터는 기본 사이트와 보조 사이트 간에 복사되며, 각 사이트는 서로를 백업합니다.</li></ul></li></ul> <ul ><li>Tier5: 트랜잭션 무결성(Transaction Integrity)<ul ><li>데이터 일관성이 필요한 기업에서 사용하는 솔루션입니다. </li><li>데이터는 사이트(프로덕션 데이터 센터와 데이터 복구 센터) 간에 지속적으로 전송되므로 데이터 손실이 없습니다.</li></ul> </li><li>Tier6: 데이터 손실이 없거나 거의 없음(Zero or near-zero data loss)<ul ><li>데이터 손실이 거의 또는 전혀 없는 최고 수준의 데이터 무결성을 입증합니다. </li><li>데이터 복구가 최우선 순위입니다. 이러한 솔루션에는 종종 어떤 형태의 디스크 미러링이 필요합니다.</li></ul></li></ul> <ul ><li>Tier7: 고도로 자동화된 비즈니스 통합 솔루션<ul ><li>가장 높은 수준의 DR 시나리오. </li><li>티어 6 솔루션에 사용되는 모든 구성 요소에 추가 자동화가 포함됩니다. </li><li>데이터 복구가 자동화되어 시스템과 애플리케이션을 빠르고 안정적으로 복구할 수 있습니다.</li></ul></li></ul> <ul ><li>source: https://www.cloud4u.com/blog/seven-tiers-of-disaster-recovery/</li></ul>

www.cloud4u.com

[Cloud4U] 7단계 재해 복구

개발자라면 찜 해놔야하는 GitHub 저장소들

모든 프로그래머가

AutoParams를 사용한 Spring Boot 응용프로그램 테

1. 찰스 다윈은 하루에 90분씩 3번 일했고, 나머지 시간에는 긴 산책을 하거나 낮잠을 자거나 상념에 잠겼다. (그러면서도 그는 <종의 기원>을 포함해 19권의 책을 집필했다)

2. 엄청난 다작가이자 사상가로 알려진 앙리 푸앵카레는 오전 10시부터 정오까지 첫 번째 작업을 한 뒤, 오후 5시부터 7시까지 두 번째 작업을 했다. (그는 하루 4시간만 일했다)

3. 마찬가지로, 수학자 고드프리 해럴드 하디는 ‘의식적 작업은 하루 4시간이 최대치’이며, 나머지 시간을 너무 많은 바쁜 일로 채우면 오히려 비생산적이라고 믿었다.

4. 다윈, 푸앵카레, 하디는 모든 같은 이야기를 하고 있다. 제대로 초점을 맞추고, 진짜 집중력을 (제대로) 발휘하면, 그리고 양질의 휴식으로 집중하는 시간을 잘 뒷받침하면, 위대한 성취를 이루는 데 필요한 시간은 하루 4시간이면 충분하다고. 이는 바쁨을 추구하는 우리의 문화와 정면으로 충돌하는 발상이다.

5. 위대함을 낳는 ‘1만 시간의 법칙’은 앤더스 에릭슨과 동료들의 공동 연구로 탄생한 이래로, 말콤 글래드웰이 책 <아웃라이어>에 소개하며 대중의 큰 주목을 받았다. 말콤 글래드웰은 1만 시간의 법칙을 소개하며 ‘어떤 분야에서든 전문가 수준에 도달하려면 1만 시간의 의도적 연습이 필요하다’고 주장했다.

6. 그리고 이는 바쁨과 스트레스와 과로를 미덕으로 여기는 세상에서 큰 환영을 받았고, 아직도 많은 사람들이 이 법칙을 마치 교리처럼 신봉한다.

7. 그런데 에릭슨의 실제 연구에는 ‘매일 의도적 연습이 효과적인 수준을 넘지 않도록 제한해야 한다’는 내용도 담겨 있으며, 연구에서는 ‘하루에 투입해야 할 이상적인 시간은 4시간’이라고도 제안한다.

8. 이 연구에서 더 흥미로운 부분은 ‘정상급 연주자와 평균적 연주자는 쉬는 방식부터 다르다’는 점이다. 정상급 연주자는 평균적 연주자들에 비해 더 체계적이고 계획적으로 여가 시간을 보냈다.

9. 정상급 연주자들은 연습만 의도적으로 하는 게 아니라, 휴식도 의도적으로 취했다. 그들은 평균적 연주자보다 1시간 가량 더 잠을 찾다. (탁월한 퍼포먼스 = 의식적 연습+의식적 휴식)

10. 흔히 휴식을 일의 반대라고 생각하지만, 일과 휴식의 엄격한 분리는 현대의 그릇된 통념이다. 오랫동안 사람들은 쉴 때 뇌의 활동력이 떨어진다고 생각했다. 하지만 날로 발전하는 뇌 영상 기술에 힘입어 뇌과학자들은 ‘쉬는 동안에도 뇌의 전반적인 활동량이 감소하지 않는다’는 것을 발견했다.

11. 활동성은 단지 뇌의 다른 영역으로 옮겨갔다. 그리고 연구자들은 쉬는 동안 활성화되는 뇌의 영역을 ‘디폴트 모드 네트워크(DMN)’라고 칭하게 되었다.

12. 그리고 추가 연구를 통해, 디폴트 모드 네트워크는 고도로 활동적일 뿐 아니라, 정신 건강과 정서에 있어 굉장히 중요하다는 점이 발견됐다.

13. 특히 창의적이고 혁신적인 유형의 일을 할 땐 일하는 시간만큼, 휴식과 긴장 풀기가 필요하다. 디폴트 모드 네트워크가 활성화되면, 우리의 직관이 주도권을 가지고, 창의성은 멀리 있는 요소와 연관점을 찾기 시작한다.

14. 산책을 하거나 샤워 도중에 강력한 생각이나 통찰이 떠올렸다면, 디폴트 모드 네트워크에 감사해야 한다.

15. 그러나 당신이 휴식 때 텔레비전 앞에서 멍하게 있거나 유튜브에서 고양이 동영상을 본다면 디폴트 모드 네트워크가 활성화되는 데는 차질이 생긴다. (TV를 보거나 동영상을 보는 건 좋은 휴식 방법은 아니라는 얘기다)

16. (게다가) 창의적인 사람의 뇌는 디폴트 모드 네트워크가 더 강력하게 개발되어 휴식 시간에도 더 효과적으로 일을 한다는 연구 결과도 있다.

17. (고로 올바른 방식으로) 더 많은 시간을 휴식에 쓰면, 창의력과 행복감이 증진될 뿐 아니라, 일하는 시간의 능률마저 올라간다.

18. (그러니 숏폼 중독 등 주의력을 탕진해 일에 부정적인 영향을 미치는 휴식이 아니라, 자신에게 맞는 올바른 휴식법을 찾아라. 그러면 일의 능률을 올라갈 수밖에 없다)

- 존 피치 외, <이토록 멋진 휴식> 중

1. 찰스 다윈은 하루에 90분씩 3번 일했고, 나머지 시간에는 긴 산책을 하거나 낮잠을 자거나 상념에 잠겼다. (그러면서도 그는 &lt;종의 기원&gt;을 포함해 19권의 책을 집필했다) 2. 엄청난 다작가이자 사상가로 알려진 앙리 푸앵카레는 오전 10시부터 정오까지 첫 번째 작업을 한 뒤, 오후 5시부터 7시까지 두 번째 작업을 했다. (그는 하루 4시간만 일했다) 3. 마찬가지로, 수학자 고드프리 해럴드 하디는 ‘의식적 작업은 하루 4시간이 최대치’이며, 나머지 시간을 너무 많은 바쁜 일로 채우면 오히려 비생산적이라고 믿었다. 4. 다윈, 푸앵카레, 하디는 모든 같은 이야기를 하고 있다. 제대로 초점을 맞추고, 진짜 집중력을 (제대로) 발휘하면, 그리고 양질의 휴식으로 집중하는 시간을 잘 뒷받침하면, 위대한 성취를 이루는 데 필요한 시간은 하루 4시간이면 충분하다고. 이는 바쁨을 추구하는 우리의 문화와 정면으로 충돌하는 발상이다. 5. 위대함을 낳는 ‘1만 시간의 법칙’은 앤더스 에릭슨과 동료들의 공동 연구로 탄생한 이래로, 말콤 글래드웰이 책 &lt;아웃라이어&gt;에 소개하며 대중의 큰 주목을 받았다. 말콤 글래드웰은 1만 시간의 법칙을 소개하며 ‘어떤 분야에서든 전문가 수준에 도달하려면 1만 시간의 의도적 연습이 필요하다’고 주장했다. 6. 그리고 이는 바쁨과 스트레스와 과로를 미덕으로 여기는 세상에서 큰 환영을 받았고, 아직도 많은 사람들이 이 법칙을 마치 교리처럼 신봉한다. 7. 그런데 에릭슨의 실제 연구에는 ‘매일 의도적 연습이 효과적인 수준을 넘지 않도록 제한해야 한다’는 내용도 담겨 있으며, 연구에서는 ‘하루에 투입해야 할 이상적인 시간은 4시간’이라고도 제안한다. 8. 이 연구에서 더 흥미로운 부분은 ‘정상급 연주자와 평균적 연주자는 쉬는 방식부터 다르다’는 점이다. 정상급 연주자는 평균적 연주자들에 비해 더 체계적이고 계획적으로 여가 시간을 보냈다. 9. 정상급 연주자들은 연습만 의도적으로 하는 게 아니라, 휴식도 의도적으로 취했다. 그들은 평균적 연주자보다 1시간 가량 더 잠을 찾다. (탁월한 퍼포먼스 = 의식적 연습+의식적 휴식) 10. 흔히 휴식을 일의 반대라고 생각하지만, 일과 휴식의 엄격한 분리는 현대의 그릇된 통념이다. 오랫동안 사람들은 쉴 때 뇌의 활동력이 떨어진다고 생각했다. 하지만 날로 발전하는 뇌 영상 기술에 힘입어 뇌과학자들은 ‘쉬는 동안에도 뇌의 전반적인 활동량이 감소하지 않는다’는 것을 발견했다. 11. 활동성은 단지 뇌의 다른 영역으로 옮겨갔다. 그리고 연구자들은 쉬는 동안 활성화되는 뇌의 영역을 ‘디폴트 모드 네트워크(DMN)’라고 칭하게 되었다. 12. 그리고 추가 연구를 통해, 디폴트 모드 네트워크는 고도로 활동적일 뿐 아니라, 정신 건강과 정서에 있어 굉장히 중요하다는 점이 발견됐다. 13. 특히 창의적이고 혁신적인 유형의 일을 할 땐 일하는 시간만큼, 휴식과 긴장 풀기가 필요하다. 디폴트 모드 네트워크가 활성화되면, 우리의 직관이 주도권을 가지고, 창의성은 멀리 있는 요소와 연관점을 찾기 시작한다. 14. 산책을 하거나 샤워 도중에 강력한 생각이나 통찰이 떠올렸다면, 디폴트 모드 네트워크에 감사해야 한다. 15. 그러나 당신이 휴식 때 텔레비전 앞에서 멍하게 있거나 유튜브에서 고양이 동영상을 본다면 디폴트 모드 네트워크가 활성화되는 데는 차질이 생긴다. (TV를 보거나 동영상을 보는 건 좋은 휴식 방법은 아니라는 얘기다) 16. (게다가) 창의적인 사람의 뇌는 디폴트 모드 네트워크가 더 강력하게 개발되어 휴식 시간에도 더 효과적으로 일을 한다는 연구 결과도 있다. 17. (고로 올바른 방식으로) 더 많은 시간을 휴식에 쓰면, 창의력과 행복감이 증진될 뿐 아니라, 일하는 시간의 능률마저 올라간다. 18. (그러니 숏폼 중독 등 주의력을 탕진해 일에 부정적인 영향을 미치는 휴식이 아니라, 자신에게 맞는 올바른 휴식법을 찾아라. 그러면 일의 능률을 올라갈 수밖에 없다) - 존 피치 외, &lt;이토록 멋진 휴식&gt; 중

일을 못하는 사람들은 대부분 잘 쉬지도 못해요ㅠ

회사의 대표 옆에서 일해볼 수 있다는 점인 것 같아요.

가까이 있으면 그 사람의 사고방식을 배울 수 있어요. 회사를 세울 정도의 사람이라면 분명 배울 점이 있어요.

제가 만난 분들은 관점이 남달랐어요. 시장을 보는 관점, 제품을 대하는 관점에서 정말 많이 배울 수 있었죠. 개발자로서 조금 더 큰 그림을 볼 수 있는 기회가 되었어요.

누군가는 불편한 일이라고 할지도 몰라요. 하지만 조금 불편한 그 순간에 우리는 성장할 수 있다고 믿어요.

회사의 대표 옆에서 일해볼 수 있다는 점인 것 같아요. 가까이 있으면 그 사람의 사고방식을 배울 수 있어요. 회사를 세울 정도의 사람이라면 분명 배울 점이 있어요. 제가 만난 분들은 관점이 남달랐어요. 시장을 보는 관점, 제품을 대하는 관점에서 정말 많이 배울 수 있었죠. 개발자로서 조금 더 큰 그림을 볼 수 있는 기회가 되었어요. 누군가는 불편한 일이라고 할지도 몰라요. 하지만 조금 불편한 그 순간에 우리는 성장할 수 있다고 믿어요.

작은 회사에 일하면 좋은 점

Elastic announces the return of open source licensing for Elasticsearch and Kibana, adding AGPL as an option alongside existing licenses. This change reinforces our long-standing commitment to open so...

Elasticsearch is Open Source, Again

https://www.elastic.co/kr/blog/elasticsearch-is-open-source-again

AWS와의 갈등으로 3년전 Apache 라이센스를 버리고 SSPL 라이센스를 도입하면서 오픈소스가 아니게 되었다가 이번에 다시 AGPL 라이센스를 도입해서 오픈소스가 되었습니다.

오픈소스는 오픈소스 이니셔티브에서 사용 권한을 가지고 있어서 오픈소스 이니셔티브에서 인정한 라이센스가 아니라면 오픈소스라는 말을 사용할 수 없습니다. 오픈소스 이기는 하지만 엘라스틱 같은 회사는 클라우드 사업을 하기 때문에 AWS같은 클라우드 업체에서 elasticsearch를 서비스로 내놓으면서 갈등이 생기고 결국 오픈소스 라이센스를 버리고 클라우드 업체가 elasticsearch를 사용할 수 없게하는 SSPL을 도입해서 이를 막았습니다.

그동안의 과정이 고통스럽긴 했지만 3년이 지난 지금 AWS와의 파트너쉽이 견고해졌고 AWS도 OpenSearch에 충분한 투자를 했기 때문에 다시 오픈소스로 돌아와도 되겠다고 생각하고 AGPL을 도입하기로 했다고 합니다.

엘리스틱은 이렇게 얘기하고 사람들의 의견은 다양하게 있는거 같습니다. 엘라스틱의 의도를 그대로 믿을 수도 있고 오픈소스를 버린게 결과적으로 안좋았다고 판단했기에 번복했다는 얘기도 있습니다.

오픈소스였다가 아니었다가 혼란스럽고 앞으로 그러면 OpenSearch는 어떻게 되는건지 궁금하기도 하지만 앞으로 시장이 어떻게 흘러갈지 봐야될 것 같습니다.

https://www.elastic.co/kr/blog/elasticsearch-is-open-source-again AWS와의 갈등으로 3년전 Apache 라이센스를 버리고 SSPL 라이센스를 도입하면서 오픈소스가 아니게 되었다가 이번에 다시 AGPL 라이센스를 도입해서 오픈소스가 되었습니다. 오픈소스는 오픈소스 이니셔티브에서 사용 권한을 가지고 있어서 오픈소스 이니셔티브에서 인정한 라이센스가 아니라면 오픈소스라는 말을 사용할 수 없습니다. 오픈소스 이기는 하지만 엘라스틱 같은 회사는 클라우드 사업을 하기 때문에 AWS같은 클라우드 업체에서 elasticsearch를 서비스로 내놓으면서 갈등이 생기고 결국 오픈소스 라이센스를 버리고 클라우드 업체가 elasticsearch를 사용할 수 없게하는 SSPL을 도입해서 이를 막았습니다. 그동안의 과정이 고통스럽긴 했지만 3년이 지난 지금 AWS와의 파트너쉽이 견고해졌고 AWS도 OpenSearch에 충분한 투자를 했기 때문에 다시 오픈소스로 돌아와도 되겠다고 생각하고 AGPL을 도입하기로 했다고 합니다. 엘리스틱은 이렇게 얘기하고 사람들의 의견은 다양하게 있는거 같습니다. 엘라스틱의 의도를 그대로 믿을 수도 있고 오픈소스를 버린게 결과적으로 안좋았다고 판단했기에 번복했다는 얘기도 있습니다. 오픈소스였다가 아니었다가 혼란스럽고 앞으로 그러면 OpenSearch는 어떻게 되는건지 궁금하기도 하지만 앞으로 시장이 어떻게 흘러갈지 봐야될 것 같습니다.

Elastic Blog

https://www.elastic.co/kr/blog/elast

국내 개발자로서 자부심을 불어넣는 오픈소스 생태계가 있습니다. 바로 토스(Toss)가 주도하는 오픈소스 생태계 인데요.

es-hangul
이라고 하는 한글을 다루기 위한 라이브러리는 이미 1,000개가 넘는 GitHub 스타를 획득했습니다. 또한
lodash
보다 2배 더 빠른 유틸리티 라이브러리인
es-toolkit
은 이미 6,100개의 스타를 받고 국내를 넘어 세계적으로 많은 개발자들의 관심을 받고 있는데요. 이번 토스 모닥불 EP.4 영상에서는 토스에서 오픈소스 생태계를 운영하는 개발자들의 이야기를 만나볼 수 있습니다.

특히나 주목할 만한 점은, 패널로 참여한 토스의 오픈소스
suspensive
를 운영하고 계시는 분인데요. 이 개발자분은 요즘은 필수로 사용되고 있는
TanstackQuery
의 최상위 기여자입니다.
Jotai
외에도 토스 오픈소스에도 적극적으로 기여를하고 결국에는 토스에 합류하신게 참 대단하게 느껴지네요.

또한 오픈소스 생태계 구축을 통해 기술 커뮤니티에 긍정적인 영향을 미치고자 하는 토스의 노력도 대단한것 같습니다. 한국 개발 생태계의 경쟁력을 높이고, 개발자들에게 새로운 도전과 성장의 기회를 제공하는데 있어서, 토스의 이러한 행보를 응원합니다.

https://www.youtube.com/watch?v=SdBL-p597Dw

국내 개발자로서 자부심을 불어넣는 오픈소스 생태계가 있습니다. 바로 토스(Toss)가 주도하는 오픈소스 생태계 인데요. <code >es-hangul</code>이라고 하는 한글을 다루기 위한 라이브러리는 이미 1,000개가 넘는 GitHub 스타를 획득했습니다. 또한 <code >lodash</code>보다 2배 더 빠른 유틸리티 라이브러리인 <code >es-toolkit</code>은 이미 6,100개의 스타를 받고 국내를 넘어 세계적으로 많은 개발자들의 관심을 받고 있는데요. 이번 토스 모닥불 EP.4 영상에서는 토스에서 오픈소스 생태계를 운영하는 개발자들의 이야기를 만나볼 수 있습니다. 특히나 주목할 만한 점은, 패널로 참여한 토스의 오픈소스 <code >suspensive</code> 를 운영하고 계시는 분인데요. 이 개발자분은 요즘은 필수로 사용되고 있는 <code >TanstackQuery</code> 의 최상위 기여자입니다. <code >Jotai</code> 외에도 토스 오픈소스에도 적극적으로 기여를하고 결국에는 토스에 합류하신게 참 대단하게 느껴지네요. 또한 오픈소스 생태계 구축을 통해 기술 커뮤니티에 긍정적인 영향을 미치고자 하는 토스의 노력도 대단한것 같습니다. 한국 개발 생태계의 경쟁력을 높이고, 개발자들에게 새로운 도전과 성장의 기회를 제공하는데 있어서, 토스의 이러한 행보를 응원합니다. https://www.youtube.com/watch?v=SdBL-p597Dw

www.youtube.com

토스의 오픈소스 생태계: 한국을 넘어 글로벌로

최고의 자동완성 플러그인 타입스크립트를 사용하여 개발자를 속이고 코드를 최적화한 경험을 공유합니다.

타입스크립트스럽게 성능과 생산성 두 마리 토끼 모두 잡기

이름만 보고 프론트엔드인줄 알았는데요. 살펴보니 백엔드였습니다!

2021년 1월에 출시한 쿠키런:킹덤에 운영 도구는 어마어마하군요!

https://tech.devsisters.com/posts/typescript-ish-way-to-improve-performance/

이름만 보고 프론트엔드인줄 알았는데요. 살펴보니 백엔드였습니다! 2021년 1월에 출시한 쿠키런:킹덤에 운영 도구는 어마어마하군요! https://tech.devsisters.com/posts/typescript-ish-way-to-improve-performance/

DevTech - 데브시스터즈 기술블로그

TypeScript하면 프론트만?!

Vite는 기존 자바스크립트 번들러의 만성적인 성능 문제를 해결하고 개발자 경험을 향상시키기 위해서 등장한 차세대 번들러입니다. 브라우저에서 지원하는 ESM(ES Modules)를 적극적으로 활용하고, 자바스크립트 대신에 컴파일 언어인 Go로 작성된 현대적인 자바스크립트 개발 도구이죠.

Vite은 예전부터 널리 사용되던 번들러인 Webpack보다 설정이 훨씬 쉽고 간단하며, 설정이 필요 없기로 유명하던 번들러인 Parcel보다도 훨씬 빠릅니다. 이로 인해서 기존 번들러보다 뛰어난 개발자 경험을 제공하여 많은 개발자로부터 사랑을 받고 있는 번들러입니다.

2023년 Sate of JavaScript 설문 결과를 보시면 빌드 도구 부분에서 Vite(73%)가 Parcel(30%)을 아득히 넘고 Webpack(90%)에 이어서 사용률 2위를 기록하고 있습니다. 2021년에 20% 사용률로 처음 그래프에 등장했는데 무서운 성장세가 아닐 수 없습니다.

더욱 고무적인 부분은 바로 Vite를 써본 응답자들의 만족도입니다. 88%로 압도적인 1위를 차지하고 있으며, Webpack의 만족도는 45%까지 곤두박질 친 것을 볼 수 있습니다.

참고로 많은 분들이 영문 철자만 보시고 Vite를 “바이트”라고 발음해야 하는 걸로 오해하시는데요. 사실 Vite라는 이름은 “빠름”을 의미하는 프랑스어에서 유래되었고 그래서 정확한 발음은 “비트”라고 합니다. 한국 개발자들 사이에서는 우스갯 소리로 빛처럼 빠르다고 “빛”이라고도 많이 부르는 것 같습니다. 😄

이번 포스팅에서는 Vite를 처음 사용하시는 분들의 위해서 Vite를 시작하는 방법을 안내해드리겠습니다.

📝 포스팅: https://www.daleseo.com/vite/

Vite는 기존 자바스크립트 번들러의 만성적인 성능 문제를 해결하고 개발자 경험을 향상시키기 위해서 등장한 차세대 번들러입니다. 브라우저에서 지원하는 ESM(ES Modules)를 적극적으로 활용하고, 자바스크립트 대신에 컴파일 언어인 Go로 작성된 현대적인 자바스크립트 개발 도구이죠. Vite은 예전부터 널리 사용되던 번들러인 Webpack보다 설정이 훨씬 쉽고 간단하며, 설정이 필요 없기로 유명하던 번들러인 Parcel보다도 훨씬 빠릅니다. 이로 인해서 기존 번들러보다 뛰어난 개발자 경험을 제공하여 많은 개발자로부터 사랑을 받고 있는 번들러입니다. 2023년 Sate of JavaScript 설문 결과를 보시면 빌드 도구 부분에서 Vite(73%)가 Parcel(30%)을 아득히 넘고 Webpack(90%)에 이어서 사용률 2위를 기록하고 있습니다. 2021년에 20% 사용률로 처음 그래프에 등장했는데 무서운 성장세가 아닐 수 없습니다. 더욱 고무적인 부분은 바로 Vite를 써본 응답자들의 만족도입니다. 88%로 압도적인 1위를 차지하고 있으며, Webpack의 만족도는 45%까지 곤두박질 친 것을 볼 수 있습니다. 참고로 많은 분들이 영문 철자만 보시고 Vite를 “바이트”라고 발음해야 하는 걸로 오해하시는데요. 사실 Vite라는 이름은 “빠름”을 의미하는 프랑스어에서 유래되었고 그래서 정확한 발음은 “비트”라고 합니다. 한국 개발자들 사이에서는 우스갯 소리로 빛처럼 빠르다고 “빛”이라고도 많이 부르는 것 같습니다. 😄 이번 포스팅에서는 Vite를 처음 사용하시는 분들의 위해서 Vite를 시작하는 방법을 안내해드리겠습니다. 📝 포스팅: https://www.daleseo.com/vite/

Vite 처음 시작하기

원문 : Good Refactoring vs Bad Refactoring thumbnail…

(번역) 좋은 리팩터링 vs 나쁜 리팩터링

오늘 소개해드릴 글은 42dot의 유경상님이 번역해주신 글입니다.

많은 개발자들이 리팩터링의 중요성을 알고 리팩터링을 하지만, 적절하지 않은 리팩터링으로 오히려 코드 베이스에 악영향을 준다는 것을 간과하는 경우가 많습니다. 이 글에서는 저자가 지금까지 겪어온 경험을 기반으로 어떤 리팩터링이 잘못된 리팩터링이고, 어떤 식으로 리팩터링하는 것이 바람직한지에 대해 구체적인 코드 예시와 함께 설명합니다. 이에 더해서 올바른 리팩터링 방법과 더 나은 리팩터링을 위한 도구도 함께 소개하고 있습니다. 이 글을 통해 현재 적절한 리팩터링을 하고 있는지 점검해 보시는 기회가 되시면 좋을 것 같습니다 :)

> 글 링크 : https://ykss.netlify.app/translation/good_refactoring_vs_bad_refactoring/

오늘 소개해드릴 글은 42dot의 유경상님이 번역해주신 글입니다. 많은 개발자들이 리팩터링의 중요성을 알고 리팩터링을 하지만, 적절하지 않은 리팩터링으로 오히려 코드 베이스에 악영향을 준다는 것을 간과하는 경우가 많습니다. 이 글에서는 저자가 지금까지 겪어온 경험을 기반으로 어떤 리팩터링이 잘못된 리팩터링이고, 어떤 식으로 리팩터링하는 것이 바람직한지에 대해 구체적인 코드 예시와 함께 설명합니다. 이에 더해서 올바른 리팩터링 방법과 더 나은 리팩터링을 위한 도구도 함께 소개하고 있습니다. 이 글을 통해 현재 적절한 리팩터링을 하고 있는지 점검해 보시는 기회가 되시면 좋을 것 같습니다 :) &gt; 글 링크 : https://ykss.netlify.app/translation/good_refactoring_vs_bad_refactoring/

ykss.netlify.app

좋은 리팩터링 vs 나쁜 리팩터링

One of the most tedious (but critical tasks) for software development teams is updating foundational software. It's not new feature work, and it doesn't feel... | 209 comments on LinkedIn

Andy Jassy on LinkedIn: One of the most tedious (but critical tasks) for software development... | 209 comments

커리어리 친구들, 아마존에서 구버전 코드를 최신 자바 코드로 바꾸는데 생성 AI (Amazon Q)를 사용했고 그게 엄청난 생산성을 보여줬다는 아마존 CEO인 앤디 제시가 링크드인에 공유했습니다.

4500명/1년 분의 개발자 시간 절약, 자동 생성된 코드 리뷰의 79%를 수정없이 사용할 수 있으며, 연간 2억 6천만 달러 어치의 효율성 향상시킬 수 있다는 것이 큰 장점입니다.

https://www.linkedin.com/posts/andy-jassy-8b1615_one-of-the-most-tedious-but-critical-tasks-activity-7232374162185461760-AdSz

커리어리 친구들, 아마존에서 구버전 코드를 최신 자바 코드로 바꾸는데 생성 AI (Amazon Q)를 사용했고 그게 엄청난 생산성을 보여줬다는 아마존 CEO인 앤디 제시가 링크드인에 공유했습니다. 4500명/1년 분의 개발자 시간 절약, 자동 생성된 코드 리뷰의 79%를 수정없이 사용할 수 있으며, 연간 2억 6천만 달러 어치의 효율성 향상시킬 수 있다는 것이 큰 장점입니다. https://www.linkedin.com/posts/andy-jassy-8b1615_one-of-the-most-tedious-but-critical-tasks-activity-7232374162185461760-AdSz

www.linkedin.com

CJ ENM 커머스 부문 백엔드 개발자

전여철

배프 대표

최유진

배드민턴 올인원 플랫폼, 배프
#독서 #도전적인 #문제를해결하는 #소프트웨어엔지니어 #스타트업 #애자일개발 #프로덕트매니저 #프로젝트매니지먼트 #프론트엔드 #Algorithm #Android #App #FE공부중 #Front-end개발 #IT #IT프로덕트 #Figma

중부대학교 게임소프트웨어

이민기

#끊임없이배우기 #질문하는 #개발자 #문제를해결하는 #사이드프로젝트

<아마존Q를 이용해 구 자바를 최신 자바로 바꿈>

머신 러닝

MySQL

python

html

javascript

SpringBoot

django

Java

Docker

Kubernetes

Linux

c언어

React

typescript

Node.js

Vue.js

Spring

Github

OracleDB

Android

데이터 분석

커뮤니케이션

대규모 데이터센터나 서버에서 대규모 언어 모델 또는 멀티모달, 딥러닝 모델에 대한 GPU를 이용한 분산 훈련 및 추론 솔루션 아키텍처를 기업 대상으로 하고 있습니다. 

HPC&AI PreSales

AI 전략경영 MBA

서진호

서진호의 링크드인

Google Cloud Innovators

시나브로의 실리콘 밸리 산책

저의 깃허브

클라우드 또는 하이브리드 컴퓨팅에서 빅데이타 분석과 GPU와 고성능 분산 컴퓨팅 기반의 머신러닝 및 딥러닝, 생성형 AI(LLM/LMM)에 대한 솔루션 아키텍처 컨설팅.

#소프트웨어엔지니어 #데이터사이언스 #Ai #데이터애널리스트 #GPU #분산훈련

<아마존Q를 이용해 구 자바를 최신 자바로 바꿈>

댓글 0

비슷한 게시물

주간 인기 TOP 10

추천 프로필