Amazon Bedrock 기반 Llama 3.1 모델 출시

Llama 3.1 모델은 현재까지 Meta의 가장 진보되고 성능이 뛰어난 모델입니다. Llama 3.1 모델은 광범위한 산업 벤치마크에서 우수한 성능을 입증하고 생성형 AI 애플리케이션을 위한 새로운 기능을 제공하는 8B, 70B 및 405B 파라미터 크기 모델을 제공합니다.

모든 Llama 3.1 모델은 Llama 3 모델의 16배에 달하는 128K 컨텍스트 길이(Llama 3보다 12만 토큰 증가)를 지원하며, 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어 등 8개 언어의 다국어 대화 사용 사례에 대한 추론을 개선했습니다.

• Llama 3.1 405B는 엔터프라이즈급 애플리케이션 및 연구 개발(R&D)에 적합합니다. 모델의 출력을 사용하여 소규모 Llama 모델 및 모델 증류를 개선하여 405B 모델에서 더 작은 규모의 모델로 지식을 전달할 수 있는 합성 데이터 생성과 같은 태스크에 이상적입니다. 이 모델은 일반 지식, 롱폼(long-form) 텍스트 생성, 다국어 번역, 기계 번역, 코딩, 수학, 도구 사용, 향상된 컨텍스트 이해, 고급 추론 및 의사 결정 관련 성능이 우수합니다.

• Llama 3.1 70B는 콘텐츠 제작, 대화형 AI, 언어 이해, R&D, 엔터프라이즈 애플리케이션에 적합합니다. 이 모델은 텍스트 요약 및 정확성, 텍스트 분류, 감정 분석 및 뉘앙스 추론, 언어 모델링, 대화 시스템, 코드 생성, 명령 준수 관련 성능이 우수합니다.

• Lama 3.1 8B는 제한된 컴퓨팅 파워 및 리소스에 가장 적합합니다. 이 모델은 텍스트 요약, 텍스트 분류, 감정 분석, 지연 시간이 짧은 추론을 요구하는 언어 번역에서 성능이 우수합니다.

Meta의 Llama 3.1 3가지 모델을 Amazon Bedrock에서 쉽고 빠르게 사용해 보실 수 있습니다.

https://aws.amazon.com/ko/blogs/korea/announcing-llama-3-1-405b-70b-and-8b-models-from-meta-in-amazon-bedrock/