Meta, Llama 3.2-ஐ ஓப்பன் சோர்ஸாக வெளியிடுகிறது
Meta, 70 பில்லியன் அளவுருக்களைக் (parameters) கொண்ட ஒரு புதிய மாடலுடன் Llama 3.2-ஐ பொதுமக்களுக்காகத் திறந்துவிட்டது. நீங்கள் இதன் குறியீட்டை (code) GitHub அல்லது Hugging Face மூலம் பெற்றுக்கொள்ளலாம்.
இந்த மாடல் 2.5 டிரில்லியன் டோக்கன்கள் கொண்ட தரவுத்தொகுப்பில் (dataset) பயிற்சியளிக்கப்பட்டது. பல்வேறு வேலைப்பளுவிற்கு (workloads) ஏற்ப Meta மூன்று அளவுகளில் இதனை வழங்குகிறது:
- 8 B
- 30 B
- 70 B
இவை மூன்றும் நவீன GPUs மற்றும் LPU சிப்களில் இயங்குகின்றன. புதிய கட்டமைப்பு (architecture) கணக்கீட்டுத் தேவையை (compute demand) 22% குறைக்கிறது, இது குறைந்த செலவு மற்றும் குறைந்த ஆற்றல் பயன்பாட்டிற்கு வழிவகுக்கிறது.
இது உங்களுக்கு ஏன் முக்கியமானது
- குறைந்த செலவு – ஸ்டார்ட்அப்கள் மற்றும் டெவலப்பர்கள் இப்போது பெரிய பட்ஜெட் இல்லாமலேயே பெரிய மாடல்களை இயக்க முடியும்.
- சிறந்த செயல்திறன் – பெஞ்ச்மார்க் முடிவுகள், தர்க்கரீதியான (reasoning) மற்றும் பலமொழிப் பணிகளில் (multilingual tasks) Llama 3.2 பல ஓப்பன் சோர்ஸ் போட்டியாளர்களை விட வேகமாகச் செயல்படுவதைக் காட்டுகின்றன.
- வணிக சுதந்திரம் – Apache 2.0 உரிமம் (license) மூலம் நீங்கள் ராயல்டி செலுத்தாமலேயே ஒரு வணிகத்தில் இந்த மாடலைப் பயன்படுத்தலாம்.
- ஹார்டுவேர் வேகம் – NVIDIA H100 மற்றும் Groq LPU போன்ற சிப்களில் இந்த மாடல் 1.8 மடங்கு வேகமாக இயங்குகிறது.
Llama 3.2-ஐ அடிப்படையாகக் கொண்டு உருவாக்கப்படும் திட்டங்களுக்கு ஆதரவளிக்க Meta $150 மில்லியன் நிதியை ஒதுக்கியுள்ளது. இது AI வளர்ச்சியை மூடிய ஆய்வகங்களிலிருந்து சமூகத்திற்குள் கொண்டு செல்லும் முயற்சியாகும்.
மூலம்: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb
விருப்பத்தேர்வு கற்றல் சமூகம்: https://t.me/GyaanSetuAi
