Meta ਨੇ Llama 3.2 Open Source ਰਿਲੀਜ਼ ਕੀਤਾ

Meta ਨੇ Llama 3.2 ਨੂੰ ਜਨਤਾ ਲਈ ਖੋਲ੍ਹ ਦਿੱਤਾ ਹੈ, ਜਿਸ ਵਿੱਚ 70 ਬਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਵਾਲਾ ਮਾਡਲ ਸ਼ਾਮਲ ਹੈ। ਤੁਸੀਂ GitHub ਜਾਂ Hugging Face ਤੋਂ ਕੋਡ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹੋ।

ਇਸ ਮਾਡਲ ਨੂੰ 2.5 ਟ੍ਰਿਲੀਅਨ-ਟੋਕਨ ਡੇਟਾਸੈੱਟ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ। Meta ਵੱਖ-ਵੱਖ ਕੰਮਾਂ (workloads) ਦੇ ਅਨੁਸਾਰ ਤਿੰਨ ਆਕਾਰ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ:

  • 8 B
  • 30 B
  • 70 B

ਇਹ ਤਿੰਨੋਂ ਆਧੁਨਿਕ GPUs ਅਤੇ LPU ਚਿੱਪਾਂ 'ਤੇ ਚੱਲਦੇ ਹਨ। ਇੱਕ ਨਵਾਂ ਆਰਕੀਟੈਕਚਰ ਕੰਪਿਊਟਿੰਗ ਦੀ ਮੰਗ ਨੂੰ 22% ਤੱਕ ਘਟਾ ਦਿੰਦਾ ਹੈ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਘੱਟ ਲਾਗਤ ਅਤੇ ਘੱਟ ਊਰਜਾ ਦੀ ਵਰਤੋਂ।

ਇਹ ਤੁਹਾਡੇ ਲਈ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

  • ਘੱਟ ਲਾਗਤ – ਹੁਣ ਸਟਾਰਟਅੱਪਸ ਅਤੇ ਡਿਵੈਲਪਰ ਬਿਨਾਂ ਕਿਸੇ ਵੱਡੇ ਬਜਟ ਦੇ ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਚਲਾ ਸਕਦੇ ਹਨ।
  • ਬਿਹਤਰ ਪ੍ਰਦਰਸ਼ਨ – ਬੈਂਚਮਾਰਕਸ ਦਿਖਾਉਂਦੇ ਹਨ ਕਿ Llama 3.2 ਤਰਕ (reasoning) ਅਤੇ ਬਹੁ-ਭਾਸ਼ਾਈ ਕੰਮਾਂ ਵਿੱਚ ਕਈ ਓਪਨ-ਸੋਰਸ ਵਿਰੋਧੀਆਂ ਤੋਂ ਅੱਗੇ ਹੈ।
  • ਵਪਾਰਕ ਸੁਤੰਤਰਤਾ – Apache 2.0 ਲਾਇਸੈਂਸ ਤੁਹਾਨੂੰ ਬਿਨਾਂ ਰਾਇਲਟੀ ਦਿੱਤੇ ਕਿਸੇ ਕਾਰੋਬਾਰ ਵਿੱਚ ਮਾਡਲ ਨੂੰ ਲਾਗੂ (deploy) ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ।
  • ਹਾਰਡਵੇਅਰ ਦੀ ਰਫ਼ਤਾਰ – ਇਹ ਮਾਡਲ NVIDIA H100 ਅਤੇ Groq LPU ਵਰਗੀਆਂ ਚਿੱਪਾਂ 'ਤੇ 1.8 × ਤੇਜ਼ੀ ਨਾਲ ਚੱਲਦਾ ਹੈ।

Meta $150 ਮਿਲੀਅਨ ਇੱਕ ਅਜਿਹੇ ਫੰਡ ਵਿੱਚ ਲਗਾ ਰਿਹਾ ਹੈ ਜੋ Llama 3.2 'ਤੇ ਬਣੇ ਪ੍ਰੋਜੈਕਟਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ AI ਵਿਕਾਸ ਨੂੰ ਬੰਦ ਪ੍ਰਯੋਗਸ਼ਾਲਾਵਾਂ ਤੋਂ ਬਾਹਰ ਕੱਢ ਕੇ ਭਾਈਚਾਰੇ ਤੱਕ ਪਹੁੰਚਾਇਆ ਜਾ ਰਿਹਾ ਹੈ।

ਸਰੋਤ: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

ਵਿਕਲਪਿਕ ਸਿੱਖਣ ਭਾਈਚਾਰਾ: https://t.me/GyaanSetuAi