Meta Llama 3.2 ని ఓపెన్ సోర్స్ (Open Source) గా విడుదల చేసింది

Meta, 70 బిలియన్ పారామీటర్ల మోడల్‌ను జోడిస్తూ, Llama 3.2ని ప్రజల కోసం అందుబాటులోకి తెచ్చింది. మీరు GitHub లేదా Hugging Face నుండి కోడ్‌ను పొందవచ్చు.

ఈ మోడల్‌ను 2.5 ట్రిలియన్ టోకెన్ల డేటాసెట్‌పై శిక్షణ ఇచ్చారు. వివిధ రకాల వర్క్‌లోడ్‌లకు అనుగుణంగా Meta మూడు పరిమాణాలను అందిస్తోంది:

  • 8 B
  • 30 B
  • 70 B

ఈ మూడు మోడళ్లు ఆధునిక GPUs మరియు LPU చిప్‌లపై పనిచేస్తాయి. కొత్త ఆర్కిటెక్చర్ కంప్యూట్ డిమాండ్‌ను 22% తగ్గిస్తుంది, దీనివల్ల ఖర్చులు తగ్గడమే కాకుండా తక్కువ శక్తి వినియోగం జరుగుతుంది.

ఇది మీకు ఎందుకు ముఖ్యం

  • తక్కువ ఖర్చులు – స్టార్టప్‌లు మరియు డెవలపర్‌లు ఇప్పుడు భారీ బడ్జెట్‌లు లేకుండానే పెద్ద మోడళ్లను నడపవచ్చు.
  • మెరుగైన పనితీరు – రీజనింగ్ మరియు మల్టీలింగ్వల్ టాస్క్‌లలో Llama 3.2 అనేక ఓపెన్-సోర్స్ ప్రత్యర్థుల కంటే మెరుగ్గా పనిచేస్తుందని బెంచ్‌మార్క్‌లు చూపుతున్నాయి.
  • వాణిజ్య స్వేచ్ఛ – Apache 2.0 లైసెన్స్ ద్వారా మీరు ఎటువంటి రాయల్టీలు చెల్లించకుండా వ్యాపారంలో ఈ మోడల్‌ను ఉపయోగించుకోవచ్చు.
  • హార్డ్‌వేర్ వేగం – NVIDIA H100 మరియు Groq LPU వంటి చిప్‌లపై ఈ మోడల్ 1.8 × వేగంగా పనిచేస్తుంది.

Llama 3.2 ఆధారంగా నిర్మించిన ప్రాజెక్ట్‌లకు మద్దతు ఇచ్చే ఫండ్‌లోకి Meta $150 మిలియన్లను వెచ్చిస్తోంది, తద్వారా AI అభివృద్ధిని మూసివేసిన ల్యాబ్‌ల నుండి కమ్యూనిటీలోకి తీసుకువస్తోంది.

Source: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

Optional learning community: https://t.me/GyaanSetuAi