MetaがLlama 3.2をオープンソースとして公開

MetaはLlama 3.2を一般公開し、新たに700億パラメータのモデルを追加しました。コードはGitHubまたはHugging Faceから取得できます。

このモデルは2.5兆トークンのデータセットで学習されています。Metaは、さまざまなワークロードに対応するため、3つのサイズを提供しています。

  • 8 B
  • 30 B
  • 70 B

3つのモデルすべてが最新のGPUおよびLPUチップ上で動作します。新しいアーキテクチャにより、計算需要が22%削減され、コストの低減とエネルギー消費の抑制につながります。

あなたにとっての重要性

  • コストの削減 – スタートアップや開発者は、膨大な予算をかけずに大規模モデルを実行できるようになります。
  • パフォーマンスの向上 – ベンチマークによると、Llama 3.2は推論および多言語タスクにおいて、いくつかのオープンソースの競合モデルを上回っています。
  • 商用利用の自由度 – Apache 2.0ライセンスにより、ロイヤリティを支払うことなくビジネスにモデルを導入できます。
  • ハードウェアの高速化 – NVIDIA H100やGroq LPUなどのチップ上で、モデルが1.8倍高速に動作します。

MetaはLlama 3.2上に構築されたプロジェクトを支援する基金に1億5,000万ドルを投じており、AI開発を閉鎖的な研究所からコミュニティへと押し広げています。

ソース: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

学習コミュニティ（任意）: https://t.me/GyaanSetuAi