મીરા મુરાટીની Thinking Machines Lab એ Inkling સાથે સત્તાવાર રીતે મેદાનમાં પ્રવેશ કર્યો છે, જે એક ઓપન-વેઇટ મોડેલ છે અને કેન્દ્રીકૃત, "વન-સાઇઝ-ફિટ્સ-ઓલ" AI જાયન્ટ્સના વર્ચસ્વને પડકારવા માટે બનાવવામાં આવ્યું છે. કાચા, સામાન્ય હેતુના પાવરને બદલે કસ્ટમાઇઝેબિલિટી પર દાવ લગાવીને, સ્ટાર્ટઅપનું કહેવું છે કે એન્ટરપ્રાઇઝ AI નું ભવિષ્ય વિશિષ્ટ, સ્થાનિક રીતે ઓપ્ટિમાઇઝ કરેલી બુદ્ધિમાં રહેલું છે.
Inkling નું આર્કિટેક્ચર: MoE દ્વારા કાર્યક્ષમતા
Inkling એ 975 અબજ કુલ પેરામીટર્સ ધરાવતી Mixture-of-Experts સિસ્ટમ છે. તેમ છતાં, તે કોઈપણ સિંગલ કાર્ય માટે માત્ર 41 અબજ જેટલા પેરામીટર્સ સક્રિય કરે છે, જે ઉચ્ચ સ્તરનું તર્ક જાળવી રાખીને લેટન્સી અને ખર્ચ ઘટાડે છે. આ મોડેલે ટેક્સ્ટ, ઈમેજ, ઓડિયો અને વિડિયોના 45 ટ્રિલિયન ટોકન્સમાંથી શીખ્યું છે, જે તેને નેટિવ મલ્ટિમોડલ ક્ષમતાઓ આપે છે. કંપનીનો દાવો છે કે Inkling કોડિંગ બેન્ચમાર્ક પર Nvidia ના Nemotron 3 Ultra ની બરાબરી કરે છે, અને તે પણ માત્ર ત્રીજા ભાગના ટોકન્સનો ઉપયોગ કરીને, જે તાલીમની કાર્યક્ષમતાનું સ્પષ્ટ ચિહ્ન છે.
એન્ટરપ્રાઇઝ કસ્ટમાઇઝેશન તરફ વ્યૂહાત્મક વળાંક
OpenAI, Anthropic અથવા Google ના ફ્લેગશિપ ઉત્પાદનોથી વિપરીત, જે મુખ્યત્વે સામાન્ય હેતુના ચેટબોટ્સ તરીકે કાર્ય કરે છે, Inkling ને સંસ્થાઓ માટે પાયા (foundation) તરીકે માર્કેટ કરવામાં આવે છે. Thinking Machines આ મોડેલને એક પ્રારંભિક બિંદુ તરીકે રજૂ કરે છે, અને એન્ટરપ્રાઇઝને તેના "Tinker" પ્લેટફોર્મ દ્વારા પ્રોપ્રાઇટરી ડેટા સાથે તેને ફાઇન-ટ્યુન કરવા માટે પ્રોત્સાહિત કરે છે.
આ પગલું ઉદ્યોગના "ડબલ પેમેન્ટ" (બેવડા ચુકવણી) ના જાળને હલ કરે છે. Microsoft ના CEO Satya Nadella એ ચેતવણી આપી હતી કે કંપનીઓ બે વાર ચૂકવણી કરે છે—એકવાર સબ્સ્ક્રિપ્શન માટે અને બીજી વાર અનન્ય બિઝનેસ લોજિકને એવા મોડેલમાં ફીડ કરીને જે અંતે પ્રદાતાના તાલીમ સેટને સમૃદ્ધ બનાવે છે. ઓપન-વેઇટ મોડેલ ઓફર કરીને, Thinking Machines કંપનીઓને તે બુદ્ધિ (intelligence) ઇન-હાઉસ રાખવાની મંજૂરી આપે છે.
હાઈ-સ્ટેક્સ ઇન્ફ્રાસ્ટ્રક્ચર અને ઝડપી વિકાસ
Thinking Machines બજારમાં ખૂબ જ ઝડપથી આવ્યું છે. OpenAI ને અંદાજે પાંચ વર્ષ અને Anthropic ને લગભગ ત્રણ વર્ષ લાગ્યા; Thinking Machines કહે છે કે તેણે માત્ર નવ મહિનામાં સમાન સીમાચિહ્ન હાંસલ કર્યું છે.
આ ઝડપને સધાવવા માટે, કંપનીએ હાર્ડવેરનો સહારો લીધો છે. માર્ચમાં Nvidia સાથેની ભાગીદારી પછી, Inkling સંપૂર્ણપણે Nvidia ના GB300 NVL72 સિસ્ટમ્સ પર તાલીમ પામ્યું હતું. કંપનીએ ડિસ્ટિલેશન ટ્રિક્સનો ઉપયોગ કર્યો—શરૂઆતના પોસ્ટ-ટ્રેનિંગ માટે Moonshot AI ના Kimi K2.5 જેવા ઓપન-વેઇટ મોડેલ્સનો લાભ લેવો—પરંતુ ભવિષ્યનું પોસ્ટ-ટ્રેનિંગ સંપૂર્ણપણે ઇન-હાઉસ ચલાવવાનું વચન આપે છે.
મુખ્ય બાબતો
- Open-Weight ફાયદો: ડેવલપર્સ 975 B-પેરામીટર MoE મોડેલ ડાઉનલોડ અને મોડિફાય કરી શકે છે, જેનાથી નિયંત્રણ ક્લોઝ્ડ ઇકોસિસ્ટમ્સથી દૂર રહે છે.
- કાર્યક્ષમતા-પ્રથમ ડિઝાઇન: દરેક કાર્ય માટે માત્ર 41 B પેરામીટર્સ સક્રિય કરવા અને ટોકન વપરાશ ઘટાડવાથી મોડેલ ઓપરેશનલ ખર્ચના ખૂબ જ નાના ભાગમાં ઉચ્ચ સ્તરનું તર્ક આપી શકે છે.
- કસ્ટમાઇઝેશન પર દાવ: Thinking Machines સામાન્ય ચેટબોટ્સથી બદલાઈને "Tinker" તરફ વળે છે, જે એક એવું પ્લેટફોર્મ છે જે ફાઉન્ડેશન મોડેલ્સને દરેક સંસ્થા માટે વિશિષ્ટ સંપત્તિમાં ફેરવે છે.
