Meta Llama 3.2 ഓപ്പൺ സോഴ്സ് ആയി പുറത്തിറക്കി

70 ബില്യൺ പാരാമീറ്റർ മോഡൽ കൂടി ഉൾപ്പെടുത്തിക്കൊണ്ട് Meta, Llama 3.2 പൊതുജനങ്ങൾക്ക് ലഭ്യമാക്കിയിരിക്കുന്നു. നിങ്ങൾക്ക് GitHub അല്ലെങ്കിൽ Hugging Face എന്നിവയിൽ നിന്ന് ഇതിന്റെ കോഡ് ഡൗൺലോഡ് ചെയ്യാം.

2.5 ട്രില്യൺ ടോക്കണുകൾ അടങ്ങിയ ഡാറ്റാസെറ്റ് ഉപയോഗിച്ചാണ് ഈ മോഡൽ പരിശീലിപ്പിച്ചിരിക്കുന്നത്. വിവിധ ജോലികൾക്കായി മൂന്ന് വ്യത്യസ്ത സൈസുകളിൽ Meta ഇത് ലഭ്യമാക്കുന്നു:

  • 8 B
  • 30 B
  • 70 B

ഇവ മൂന്നും ആധുനിക GPU-കളിലും LPU ചിപ്പുകളിലും പ്രവർത്തിക്കും. പുതിയ ആർക്കിടെക്ചർ കമ്പ്യൂട്ടിംഗ് ആവശ്യകത 22% കുറയ്ക്കുന്നു, ഇത് ചെലവ് കുറയ്ക്കാനും ഊർജ്ജ ഉപഭോഗം കുറയ്ക്കാനും സഹായിക്കുന്നു.

ഇത് നിങ്ങൾക്ക് എന്തുകൊണ്ട് പ്രധാനമാകുന്നു

  • കുറഞ്ഞ ചെലവ് – സ്റ്റാർട്ടപ്പുകൾക്കും ഡെവലപ്പർമാർക്കും ഇനി വലിയ ബജറ്റുകൾ ഇല്ലാതെ തന്നെ വലിയ മോഡലുകൾ പ്രവർത്തിപ്പിക്കാം.
  • മികച്ച പ്രകടനം – റീസണിംഗ് (reasoning), മൾട്ടി ലിംഗ്വൽ (multilingual) ജോലികളിൽ പല ഓപ്പൺ സോഴ്സ് എതിരാളികളെക്കാളും Llama 3.2 മുന്നിലാണെന്ന് ബെഞ്ച്മാർക്കുകൾ കാണിക്കുന്നു.
  • വാണിജ്യ സ്വാതന്ത്ര്യം – Apache 2.0 ലൈസൻസ് ഉപയോഗിക്കുന്നതിലൂടെ റോയൽറ്റി നൽകാതെ തന്നെ ബിസിനസ് ആവശ്യങ്ങൾക്കായി ഈ മോഡൽ ഉപയോഗിക്കാം.
  • ഹാർഡ്‌വെയർ വേഗത – NVIDIA H100, Groq LPU തുടങ്ങിയ ചിപ്പുകളിൽ ഈ മോഡൽ 1.8 മടങ്ങ് വേഗത്തിൽ പ്രവർത്തിക്കുന്നു.

Llama 3.2 ഉപയോഗിച്ച് നിർമ്മിക്കുന്ന പ്രോജക്റ്റുകളെ പിന്തുണയ്ക്കുന്നതിനായി Meta 150 മില്യൺ ഡോളർ ഒരു ഫണ്ടിലേക്ക് മാറ്റുന്നു. ഇത് AI വികസനത്തെ അടച്ചിട്ട ലാബുകളിൽ നിന്ന് സമൂഹത്തിലേക്ക് എത്തിക്കാൻ സഹായിക്കുന്നു.

Source: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

Optional learning community: https://t.me/GyaanSetuAi