Meta 도 LLM 을 공개했습니다 - LLaMa

GPT-3 는 1750억개의 파라미터를 사용하는 것으로 알려져 있죠. LLaMa 는 70억~650억개의 범위 내에서 테스트되었고, 이 중 130억개를 사용한 버전이 GPT-3 보다 더 좋은 평가를 받았다고 합니다. 어쩌면 650억개 버전은 ChatGPT 에 사용된 GPT-3.5 보다도 더 좋은 성능을 기대할 수도 있겠군요. 성능 자체보다 독특한 행보라면, 메타는 소스코드와 데이터, 모델까지 공개했다는 점인데요, OpenAI 보다 더 open 된 모습이네요 (한편으로는, 메타로서는 LLM 경쟁에서 구글과 OpenAI 에 밀리는 듯한 모양새였으니 이런 정도의 수는 필요했겠다 싶긴 합니다 ㅎㅎ) 소스코드: https://github.com/facebookresearch/llama