Meta, Llama 3.2 오픈 소스 공개

Meta가 700억 개의 파라미터를 가진 모델을 추가하며 Llama 3.2를 대중에게 공개했습니다. GitHub 또는 Hugging Face에서 코드를 가져올 수 있습니다.

이 모델은 2.5조 개의 토큰 데이터셋으로 학습되었습니다. Meta는 다양한 워크로드에 맞게 세 가지 크기를 제공합니다:

  • 8 B
  • 30 B
  • 70 B

세 모델 모두 최신 GPU 및 LPU 칩에서 실행됩니다. 새로운 아키텍처를 통해 연산 수요를 22% 절감했으며, 이는 비용 절감과 에너지 사용량 감소로 이어집니다.

사용자에게 중요한 이유

  • 비용 절감 – 스타트업과 개발자는 이제 막대한 예산 없이도 대규모 모델을 실행할 수 있습니다.
  • 향상된 성능 – 벤치마크 결과에 따르면 Llama 3.2는 추론 및 다국어 작업에서 여러 오픈 소스 경쟁 모델들을 앞지르는 것으로 나타났습니다.
  • 상업적 자유 – Apache 2.0 라이선스를 통해 로열티 지불 없이 비즈니스에 모델을 배포할 수 있습니다.
  • 하드웨어 속도 – NVIDIA H100 및 Groq LPU와 같은 칩에서 모델이 1.8배 더 빠르게 실행됩니다.

Meta는 Llama 3.2 기반 프로젝트를 지원하는 펀드에 1억 5천만 달러를 투입하여, AI 개발을 폐쇄적인 연구실에서 커뮤니티로 확장시키고 있습니다.

출처: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

선택 사항 학습 커뮤니티: https://t.me/GyaanSetuAi