생성형 AI 시스템 과제 및 모범 사례

생성형 AI는 여전히 가장 핫한 주제 중 하나입니다. 관련 기사 2건 공유합니다. 😃(출처: ITWorld)


<생성형 AI 도입 기업, IT 부서 넘어 현업 사용례 확대>

  • 생성형 AI를 도입하려는 기업이 지난해(2023년)에 비해 5배 증가했다고 합니다.

  • 생성형 AI를 위한 비용 지출은 여전히 전체 비용의 1% 미만이지만, 시장의 기대심리가 매우 높다고 합니다.

  • 생성형 AI 부상에 있어 가장 놀라운 내용은, IT 부서와 같은 기술 부서에서의 활용이 아닌 현업 부서에서 생성형 AI를 매우 적극적으로 사용하고 있다는 점입니다.


<생성형 AI 시스템의 성능이 나쁜 이유>

생성형 AI 시스템 과제

  • 복잡한 배포 환경: 생성형 AI 시스템은 데이터 수집 서비스, 스토리지, 컴퓨팅, 네트워킹과 같은 다양한 구성 요소로 이루어져 있는데, 성능이 떨어지는 네트워크와 포화 상태의 데이터베이스로 인해 성능 문제가 발생할 수 있다.

  • AI 모델 튜닝: 많은 기업이 AI 모델을 튜닝하다 상황을 악화시키거나 잘못된 결과를 초래할 수 있으므로, 생성형 AI 서비스 업체와의 협업은 필수이다.

  • 보안 문제: 무단 액세스 및 침해로부터 AI 모델과 해당 데이터를 보호하는 문제는 매우 중요하고, 성능 문제가 있는 시스템은 보안 위험성도 커질 수 밖에 없다.

  • 규정 준수: 데이터 거버넌스 및 규정 준수 표준을 반드시 준수해야 한다.

생성형 AI 베스트 프랙티스

  • 자동 확장을 위한 자동화 구현: MLOps

  • 서버리스 컴퓨팅 활용을 통한 인프라 관리 추상화

  • 정기적인 스트레스 테스트 및 성능 평가 수행

  • 지속적인 모델 학습이 가능한 프로세스 확립

  • 클라우드 서비스 업체의 전문 지식과 지원을 활용


원본 기사 링크는 아래와 같습니다. 감사합니다.🙏

[Source Link]

  • https://www.itworld.co.kr/news/323539#csidx7bf1dec3f2e2881b4381522cac84054

  • https://www.itworld.co.kr/news/323651#csidx1e5327a9632eeaa8e9c2288b09f05dc

생성형 AI 도입 기업, IT 부서 넘어 현업 사용례 확대...워카토

ITWorld

생성형 AI 도입 기업, IT 부서 넘어 현업 사용례 확대...워카토

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 1월 31일 오후 12:44

 • 

저장 8조회 1,852

댓글 0

    함께 읽은 게시물

    < 네이버는 왜 아이폰 쓰던 직원들에게 안드로이드폰을 사줬을까? >

    1. 2010년경 네이버에서의 일이다. 스마트폰이 처음 나왔을 무렵이다. 아이폰이 먼저 나왔다. 이어서 다양한 안드로이드 폰이 나오며 시장 점유율이 늘기 시작했다. 더 많은 사람들이 안드로이드 폰을 쓰기 시작했다. 시장이 열리니 그에 맞는 모바일 전략과 서비스

    ... 더 보기

    🥕첫 '권고사직'에 나선 당근, 정말 위기인 걸까요?

    ... 더 보기

    첫 '권고사직' 당근, 정말 위기일까요?

    www.openads.co.kr

    첫 '권고사직' 당근, 정말 위기일까요?

    우선순위에 대한 고민

    SI,협약기반,셀프 서비스를 하면서 느끼는 커스터머및 장애 이슈대응

    ... 더 보기

    < 똑똑한 사람은 복잡하게 말하지 않는다 >

    1. 누군가가 화려한 단어나 두루뭉술한 개념을 많이 사용한다면 아마 자신이 무슨 말을 하는지도 모를 것이다.

    ... 더 보기

    더불어민주당에선 대통령실 비서실장으로 지명된 강훈식 의원이 '경영권과 무관하게 상장사 지분 25% 이상을 확보할 경우 잔여 주식을 모두 공개매수해야 한다'는 내용의 자본시장법 개정안을 지난해 6월 발의했다. 대통령령으로 예외를 두겠다는 단서 조항을 달았지만 사실상 100% 의무공개매수를 도입을 추진하고 있다. 지난 정부가 추진한 '50%+1주 의무공개매수' 대비 한발 더 나간 제도라는 평가가 나온다.

    ... 더 보기

    '100% 의무공개매수' 도입 가능성에 긴장하는 PEF들 [이재명號 출범]

    n.news.naver.com

    '100% 의무공개매수' 도입 가능성에 긴장하는 PEF들 [이재명號 출범]