Meta Llama 3.1 405B, 70B 및 8B 모델 Amazon Bedrock 정식 출시 | Amazon Web Services
Amazon Web Services
Amazon Bedrock 기반 Llama 3.1 모델 출시
Llama 3.1 모델은 현재까지 Meta의 가장 진보되고 성능이 뛰어난 모델입니다. Llama 3.1 모델은 광범위한 산업 벤치마크에서 우수한 성능을 입증하고 생성형 AI 애플리케이션을 위한 새로운 기능을 제공하는 8B, 70B 및 405B 파라미터 크기 모델을 제공합니다.
모든 Llama 3.1 모델은 Llama 3 모델의 16배에 달하는 128K 컨텍스트 길이(Llama 3보다 12만 토큰 증가)를 지원하며, 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어 등 8개 언어의 다국어 대화 사용 사례에 대한 추론을 개선했습니다.
Llama 3.1 405B는 엔터프라이즈급 애플리케이션 및 연구 개발(R&D)에 적합합니다. 모델의 출력을 사용하여 소규모 Llama 모델 및 모델 증류를 개선하여 405B 모델에서 더 작은 규모의 모델로 지식을 전달할 수 있는 합성 데이터 생성과 같은 태스크에 이상적입니다. 이 모델은 일반 지식, 롱폼(long-form) 텍스트 생성, 다국어 번역, 기계 번역, 코딩, 수학, 도구 사용, 향상된 컨텍스트 이해, 고급 추론 및 의사 결정 관련 성능이 우수합니다.
Llama 3.1 70B는 콘텐츠 제작, 대화형 AI, 언어 이해, R&D, 엔터프라이즈 애플리케이션에 적합합니다. 이 모델은 텍스트 요약 및 정확성, 텍스트 분류, 감정 분석 및 뉘앙스 추론, 언어 모델링, 대화 시스템, 코드 생성, 명령 준수 관련 성능이 우수합니다.
Lama 3.1 8B는 제한된 컴퓨팅 파워 및 리소스에 가장 적합합니다. 이 모델은 텍스트 요약, 텍스트 분류, 감정 분석, 지연 시간이 짧은 추론을 요구하는 언어 번역에서 성능이 우수합니다.
Meta 의 Llama 3.1 3가지 모델을 Amazon Bedrock에서 쉽고 빠르게 사용해 보실 수 있습니다.
https://aws.amazon.com/ko/blogs/korea/announcing-llama-3-1-405b-70b-and-8b-models-from-meta-in-amazon-bedrock/
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 7월 28일 오후 1:03
댓글 0
함께 읽은 게시물
파이낸셜타임스(FT)는 2일(현지시간) 소식통들을 인용해 xAI가 현재 3억달러 주식 매각을 추진하고 있다면서 성공하면 기업가치가 1130억달러에 이르게 된다고 보도했다.
... 더 보기
(홍보) 노코드 AI 자동화툴 n8n 강의 얼리버드 혜택 D-1
추
... 더 보기괴물은 하루아침에 태어나지 않는다
큰 것을 하는 것보다 매일 작은 것을 완벽하게 해내는 노력이 더 중요하다. 내가 성격 장애의 하나인 자기애성 성격장애자(NPD, Narcissistic Personality Disorder)를 만나면서 느낀 것은, 처음에는 그런 사람도 "정상인"처럼 느껴진다는 것이었다. 다만 그의 미친짓은 내가 매일매일 "사소한" 사건들로 상대방에게 익숙해졌을 때 발생한다.
독일 딜리버리히어로(DH)의 올해 1분기 실적발표 컨퍼런스콜에서 마리 앤 최고재무책임자(CFO)는 전세계 자사 브랜드 12곳 중 배민의 부진을 콕 찍어 투자자들에 고개를 숙였다. 올해 1분기 아시아 지역 GMV(거래액)이 전년 대비 12% 이상 감소했다는 '어닝 쇼크'를 언급하면서다. 특히 한국을 제외한 전세계 GMV가 22% 급성장한 점과도 대비됐다.
... 더 보기
