Meta rilascia Llama 3.2 open source

Meta ha reso Llama 3.2 accessibile al pubblico, aggiungendo un modello da 70 miliardi di parametri. È possibile scaricare il codice da GitHub o Hugging Face.

Il modello è stato addestrato su un dataset di 2,5 trilioni di token. Meta offre tre dimensioni per adattarsi a diversi carichi di lavoro:

  • 8 B
  • 30 B
  • 70 B

Tutti e tre funzionano su GPU moderne e chip LPU. Una nuova architettura riduce la richiesta di calcolo del 22%, il che si traduce in costi inferiori e un minor consumo di energia.

Perché questo è importante per te

  • Costi inferiori – Startup e sviluppatori possono ora eseguire modelli di grandi dimensioni senza budget massicci.
  • Prestazioni migliori – I benchmark mostrano che Llama 3.2 supera diversi rivali open source nei compiti di ragionamento e multilingue.
  • Libertà commerciale – La licenza Apache 2.0 consente di implementare il modello in un'azienda senza dover pagare royalty.
  • Velocità hardware – Il modello è 1,8 volte più veloce su chip come NVIDIA H100 e Groq LPU.

Meta sta investendo 150 milioni di dollari in un fondo che sostiene i progetti basati su Llama 3.2, portando lo sviluppo dell'IA fuori dai laboratori chiusi e all'interno della comunità.

Fonte: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

Community di apprendimento opzionale: https://t.me/GyaanSetuAi