AWS re:Invent 2024 주요 GenAI/ML출시 소식 요약

1/ Amazon SageMaker 데이터 및 AI 거버넌스: 데이터와 AI를 안전하게 검색, 관리 및 협업
통합 카탈로그, 세분화된 액세스 제어, 일관된 정책 시행을 통해 데이터 및 AI 자산을 관리합니다. 자동화를 통한 신뢰 구축 – 데이터 팀의 생산성과 혁신을 촉진합니다.

2/ 차세대 Amazon SageMaker 및 Amazon DataZone에서 데이터 카달로그 정식 출시
데이터 원본, 변환 및 사용에 대한 시각적 추적성을 실현하여 전략적 데이터 기반 의사 결정을 위한 신뢰, 거버넌스 및 검색 가능성을 강화합니다.

3/ Amazon SageMaker HyperPod 유연 트레이닝 플랜: 예산 및 일정 기반 모델 훈련 제공
SageMaker HyperPod의 유연한 트레이닝 플랜으로 효율적인 대규모 모델 훈련에서 일정과 예산 내에서 최적의 컴퓨팅 리소스를 찾고 훈련 작업을 완료하세요.

4/ Amazon SageMaker HyperPod 작업 거버넌스: 모델 개발을 위한 컴퓨팅 사용 극대화
우선 순위 기반 리소스 할당, 공정한 분배 사용률, 자동화된 작업 선점을 통해 팀 전체에서 최적의 컴퓨팅 사용률을 가능하게 합니다.

5/ Amazon SageMaker HyperPod 레시피: 모델 훈련 및 미세 조정 가속화
단 몇 분 만에 Llama 3.1 405B와 같이 공개적으로 사용 가능한 인기 있는 파운데이션 모델을 훈련하고 미세 조정할 수 있습니다.

6/ Amazon Nova 모델 출시: 프론티어 인텔리전스 및 업계 최고의 가격 대비 성능

Amazon Nova 파운데이션 모델은 텍스트 및 멀티모달 인텔리전스, 멀티모달 미세 조정, 고품질 이미지 및 비디오에 대한 지원을 통해 프론티어 인텔리전스와 업계 최고의 가격 대비 성능을 제공합니다.

7/ Amazon Bedrock 다중 에이전트 협업 기능 출시 (프리뷰)
Amazon Bedrock의 다중 에이전트 협업을 통해 개발자는 보다 복잡한 다단계 워크플로를 처리하기 위해 원활하게 작동하는 여러 전문 에이전트를 구축, 배포 및 관리할 수 있습니다.

8/ Amazon Bedrock 자동 추론 검사 기능 출시: 수학적 방식으로 LLM 환각으로 인한 사실 오류 방지 (프리뷰)
자동 추론 검사를 통해 대화형 AI 정확도 향상 – 도메인 규칙을 검증 가능한 정책으로 인코딩하여 환각을 줄이는 데 도움이 되는 최초이자 유일한 세대 AI 보호 장치입니다.

9/ Amazon Bedrock Model Distillation 출시: 더 빠르고 비용 효율적이며 매우 정확한 모델 구축 (프리뷰)
대규모 기반 모델에서 응답을 생성하여 특정 사용 사례에 대한 정제된 모델을 만드는 프로세스를 자동화하고 생성된 응답으로 더 작은 FM을 미세 조정합니다.

10/ Amazon Bedrock RAG 평가 및 LLM-as-a-judge 기능 출시
모델 평가 및 기술 자료에 대한 RAG 평가를 위한 Amazon Bedrock의 새로운 LLM-as-a-judge 기능을 통해 AI 모델 및 애플리케이션을 효율적으로 평가하여 다양한 품질 및 책임 있는 AI 지표를 대규모로 제공합니다.

11/ Amazon Bedrock 신규 API 제공을 통한 RAG 애플리케이션 개선
사용자 지정 커넥터 및 재순위 모델을 사용하면 전체 동기화 없이 기술 자료에 직접 수집할 수 있도록 하고 고급 재순위 모델을 통해 응답 관련성을 개선하여 RAG 응용 프로그램을 향상시킬 수 있습니다.

12/ Amazon Bedrock Guardrails: 이미지 지원을 통한 다중 모드 독성 탐지 지원 (미리보기)
책임감 있는 AI 애플리케이션 구축 – 구성 가능한 필터 및 임계값을 사용하여 유해한 텍스트 및 이미지 콘텐츠로부터 보호합니다.

13/ Amazon Bedrock 데이터 처리 및 검색 향상: 데이터 자동화, 멀티모달 데이터 처리, GraphRAG 지원 등
Amazon Bedrock은 멀티모달 처리, 그래프 모델링 및 구조적 쿼리를 통해 생성형 AI 데이터 분석을 개선하여 AI 애플리케이션 개발을 가속화합니다.

14/ Amazon Bedrock 지능적 프롬프트 라우팅 및 캐싱을 통해 비용 및 지연 시간 단축 (미리보기)
요청을 라우팅하고 자주 사용하는 컨텍스트를 프롬프트에 캐시하여 대기 시간을 줄이고 성능과 비용 효율성의 균형을 맞춥니다.

15/ Amazon Bedrock Marketplace: 100개 이상의 모델 활용 가능
Amazon Bedrock에서 제공하는 도구, 보안 및 거버넌스를 통해 100개 이상의 새로운 전문화된 기반 모델을 검색, 테스트 및 사용합니다.

16/ Amazon Q Business 웹 브라우저 확장 및 통합을 통한 생산성 향상 제공
Amazon Q Business의 새로운 브라우저 확장 및 통합을 통해 업무 애플리케이션 내에서 AI 지원에 원활하게 액세스할 수 있습니다.

17/ Amazon Q Business: 문서 내 시각적 요소에서 인사이트를 추출 기능 제공

이제 사용자는 다이어그램, 인포그래픽, 차트 및 기타 이미지 기반 콘텐츠를 포함한 다양한 유형의 시각적 개체에 포함된 정보를 쿼리할 수 있습니다.

18/ Amazon Q Business 업데이트: 새로운 워크플로 자동화 기능과 50+ 작업 통합
Amazon Q Business는 생성형 AI 기반 워크플로 자동화 기능과 엔터프라이즈 효율성을 위한 50+ 작업을 통해 생산성을 향상시켜 ServiceNow, PagerDuty 및 Asana와 같은 도구에서 원활한 작업 실행을 가능하게 합니다.

19/ Amazon Q Business 업데이트: ISV를 위한 생성형 AI 경험 개선
새로운 Amazon Q Business 기능을 통해 ISV는 Amazon Q 인덱스와 통합하여 단일 API를 통해 여러 소스에서 데이터를 검색하고 Amazon Q 임베디드 어시스턴트의 설계를 사용자 지정할 수 있습니다.

20/ PartyRock 신규 기능 및 무료 사용 제공
PartyRock의 새로운 AI 기능으로 창의력을 발휘하세요: 코딩이 필요 없이 이미지를 생성하고, 시각 자료를 분석하고, 수십만 개의 앱을 검색하고, 여러 문서를 동시에 처리할 수 있습니다.

21/ AWS Education Equity Initiative: 생성형 AI 기반 차세대 혁신가 교육
Amazon은 교육 형평성 이니셔티브를 강화하기 위해 $100M를 약속하여 사회적 마인드를 가진 조직이 AI 기반 디지털 학습 솔루션을 만들 수 있도록 합니다.

https://aws.amazon.com/ko/blogs/korea/top-announcements-of-aws-reinvent-2024/