생성형 AI는 여전히 가장 핫한 주제 중 하나입니다. 관련 기사 2건 공유합니다. 😃(출처: ITWorld)

<생성형 AI 도입 기업, IT 부서 넘어 현업 사용례 확대>

• 생성형 AI를 도입하려는 기업이 지난해(2023년)에 비해 5배 증가했다고 합니다.

• 생성형 AI를 위한 비용 지출은 여전히 전체 비용의 1% 미만이지만, 시장의 기대심리가 매우 높다고 합니다.

• 생성형 AI 부상에 있어 가장 놀라운 내용은, IT 부서와 같은 기술 부서에서의 활용이 아닌 현업 부서에서 생성형 AI를 매우 적극적으로 사용하고 있다는 점입니다.

<생성형 AI 시스템의 성능이 나쁜 이유>

생성형 AI 시스템 과제

• 복잡한 배포 환경: 생성형 AI 시스템은 데이터 수집 서비스, 스토리지, 컴퓨팅, 네트워킹과 같은 다양한 구성 요소로 이루어져 있는데, 성능이 떨어지는 네트워크와 포화 상태의 데이터베이스로 인해 성능 문제가 발생할 수 있다.

• AI 모델 튜닝: 많은 기업이 AI 모델을 튜닝하다 상황을 악화시키거나 잘못된 결과를 초래할 수 있으므로, 생성형 AI 서비스 업체와의 협업은 필수이다.

• 보안 문제: 무단 액세스 및 침해로부터 AI 모델과 해당 데이터를 보호하는 문제는 매우 중요하고, 성능 문제가 있는 시스템은 보안 위험성도 커질 수 밖에 없다.

• 규정 준수: 데이터 거버넌스 및 규정 준수 표준을 반드시 준수해야 한다.
  

생성형 AI 베스트 프랙티스

• 자동 확장을 위한 자동화 구현: MLOps

• 서버리스 컴퓨팅 활용을 통한 인프라 관리 추상화

• 정기적인 스트레스 테스트 및 성능 평가 수행

• 지속적인 모델 학습이 가능한 프로세스 확립

• 클라우드 서비스 업체의 전문 지식과 지원을 활용

원본 기사 링크는 아래와 같습니다. 감사합니다.🙏

[Source Link]

• https://www.itworld.co.kr/news/323539#csidx7bf1dec3f2e2881b4381522cac84054

• https://www.itworld.co.kr/news/323651#csidx1e5327a9632eeaa8e9c2288b09f05dc