Z.ai એ ૧૪ ઓગસ્ટના રોજ જાહેરાત કરી હતી કે તેનું નવું GLM-5.3 મોડેલ વચન મુજબ ઓપન વેટ્સ (open weights) સાથે ઉપલબ્ધ થશે નહીં. કંપની આગામી બે અઠવાડિયા સુધી મોડેલને API અને સબ્સ્ક્રિપ્શન સર્વિસ દ્વારા જ રાખશે, અને સેફ્ટી રિવ્યુ (safety review) ચલાવતા હોવાથી પબ્લિક ડાઉનલોડને ૨૮ ઓગસ્ટની આસપાસ લંબાવશે. Z.ai નું કહેવું છે કે આ વિલંબ મોડેલની અણધારી રીતે મજબૂત 'ઓફેન્સિવ-સિક્યુરિટી' (offensive-security) ક્ષમતાઓને કારણે થયો છે—એવી કુશળતા જે જો મોડેલ મુક્તપણે ડાઉનલોડ કરી શકાય તેમ હોય, તો તેનો હથિયાર તરીકે ઉપયોગ થઈ શકે છે.
આ વિલંબ શા માટે મહત્વનો છે
GLM-5.3 ને કોડિંગ, લોંગ-હોરાઇઝન એજન્ટ ટાસ્ક (long-horizon agent tasks) અને સાયબર સિક્યુરિટીમાં નિષ્ણાત તરીકે રજૂ કરવામાં આવ્યું છે. અગાઉના રિલીઝમાં Z.ai મોડેલ વેટ્સ તરત જ ઉપલબ્ધ કરાવતું હતું, જેનાથી એવા ડેવલપર્સ આકર્ષાયા હતા જેઓ પોતાના હાર્ડવેર પર લાર્જ લેંગ્વેજ મોડેલ્સ ચલાવે છે. આ વખતે ડાઉનલોડ પેજ પર ઇન્સ્ટન્ટ-એક્સેસ લિંકની જગ્યાએ “Coming Soon” બટન દેખાય છે, જે પારદર્શિતામાંથી સાવચેતી તરફના બદલાવનો સંકેત આપે છે.
આંતરિક પરીક્ષણોમાં મોડેલે અપેક્ષા કરતા વધુ ઝડપથી 'ઓફેન્સિવ સિક્યુરિટી' કૌશલ્યો મેળવ્યા હોવાનું જણાયા બાદ સેફ્ટી ટીમે મોડેલ પર સસ્પેન્શન મૂક્યું છે. Z.ai આ વિલંબને એક જવાબદાર પગલા તરીકે રજૂ કરે છે: કોઈ પણ વ્યક્તિ વેટ્સની નકલ કરીને મોડેલને ઓફલાઇન ચલાવી શકે તે પહેલાં તેના દુરુપયોગના જોખમનું મૂલ્યાંકન કરવા માટે બે અઠવાડિયાનું રિવ્યુ.
સુરક્ષિત રિલીઝ તરફ ઉદ્યોગનો વ્યાપક ઝુકાવ
તેના સૌથી સક્ષમ એજન્ટ્સના એક્સેસને કડક બનાવવામાં Z.ai એકલું નથી. અન્ય ત્રણ અગ્રણી લેબ્સના તાજેતરના પગલાં એ વધતા જઈ રહેલા સર્વસંમતિને દર્શાવે છે કે શક્તિશાળી, ટૂલ-યુઝિંગ મોડેલ્સનું અનિયંત્રિત વિતરણ વાસ્તવિક જોખમ ઊભું કરી શકે છે.
- OpenAI હવે તેના સાયબર સિક્યુરિટી-કેન્દ્રિત મોડેલનો ઉપયોગ કરવા માટે ઓળખ ચકાસણી (identity verification) ની જરૂરિયાત રાખે છે, જેનાથી તેને કોણ ક્વેરી કરી શકે તેના પર મર્યાદા આવે છે.
- Anthropic એ તેનું લેટેસ્ટ હાઇ-પરફોર્મિંગ મોડેલ ઇન-હાઉસ રાખ્યું છે, જે માત્ર નિયંત્રિત ઇન્ટરફેસ દ્વારા જ ઉપલબ્ધ છે.
આ પગલાં દર્શાવે છે કે ઉદ્યોગ હવે હેડલાઇન મેળવતા બેન્ચમાર્ક સ્કોર્સને બદલે મોડેલ્સની મલ્ટી-સ્ટેપ પ્લાન અમલમાં મૂકવાની, બાહ્ય ટૂલ્સનો ઉપયોગ કરવાની અને ભૂલોમાંથી સુધરવાની ક્ષમતાઓ પર ધ્યાન કેન્દ્રિત કરી રહ્યો છે—એવી ક્ષમતાઓ જે દુષ્ટ તત્વો (malicious actors) ને પણ આકર્ષે છે.
શું જોખમમાં છે
જો વેટ્સ અંતે MIT જેવા પરમિસિવ લાયસન્સ હેઠળ રિલીઝ કરવામાં આવે, તો સિક્યુરિટી રિસર્ચર્સ મોડેલની તકનીકોનો અભ્યાસ કરી શકે છે, કાઉન્ટર-મેઝર્સ (counter-measures) વિકસાવી શકે છે અને આ ટેકનોલોજીને ડિફેન્સિવ ટૂલ્સમાં સામેલ કરી શકે છે. ઓપન-સોર્સ રિલીઝ એ સિદ્ધાંતને મજબૂત બનાવશે કે પારદર્શિતા સમુદાયને જોખમોથી આગળ રહેવામાં મદદ કરે છે.
તેનાથી વિપરીત, વધુ પ્રતિબંધિત લાયસન્સ એ સંકેત આપશે કે સૌથી વધુ ઓપન-વેટ સમર્થકો પણ મોડેલ કોણ ચલાવી શકે તેના પર મર્યાદા મૂકવાની જરૂરિયાત અનુભવે છે. તે એક નવો દાખલો બેસાડી શકે છે, જે આ ક્ષેત્રને “access-by-API” અર્થતંત્ર તરફ ધકેલી શકે છે.
મુખ્ય તણાવ એ જ છે: એકવાર મોડેલ ફાઇલ જાહેરમાં પોસ્ટ થઈ જાય પછી, પ્રકાશક દુરુપયોગ રોકવાની કોઈપણ ક્ષમતા ગુમાવે છે. બે અઠવાડિયાનું સેફ્ટી રિવ્યુ તે જોખમને દૂર કરી શકતું નથી, પરંતુ તે માર્ગદર્શિકા તૈયાર કરવા, વપરાશ નિયંત્રણો દાખલ કરવા અથવા લાયસન્સિંગમાં ફેરફાર કરવા માટે સમય આપે છે.
૨૮ ઓગસ્ટના રોજ શું જોવું
બે નક્કર પ્રશ્નો GLM-5.3 ના આગામી પ્રકરણને વ્યાખ્યાયિત કરશે:
- શું વેટ્સ ખરેખર સમયસર રિલીઝ થશે? જો સમયમર્યાદા ચૂકી જવાય તો તે ઊંડા ટેકનિકલ અથવા પોલિસી અવરોધોનો સંકેત હશે, જે કદાચ Z.ai ને રિવ્યુ લંબાવવા માટે પ્રેરી શકે છે.
- રિલીઝ સાથે કયું લાયસન્સ આવશે? જો MIT લાયસન્સ યથાવત રહે તો તે ઓપનનેસ માટે વિજય ગણાશે; જો સુરક્ષિત (guarded) લાયસન્સ તરફ ઝુકાવ હશે તો તે એજન્ટિક મોડેલ્સ પર ઉદ્યોગના વધતા નિયંત્રણની પુષ્ટિ કરશે.
સિક્યુરિટી સંબંધિત સંશોધનનું આયોજન કરી રહેલા ડેવલપર્સે વેટ્સ આવે તે પછી વાસ્તવિક દુનિયાના ઓફેન્સિવ ટાસ્ક પર મોડેલનું પરીક્ષણ કરવા માટે તૈયાર રહેવું જોઈએ. તેનાથી ખબર પડશે કે વિલંબ માત્ર સાવચેતી હતી કે મોડેલની ક્ષમતાઓ ખરેખર વર્તમાન ડિફેન્સિવ ટૂલ્સ કરતા આગળ નીકળી ગઈ છે તેનો સંકેત હતો.
નિષ્કર્ષ
GLM-5.3 ના વેટ્સ રોકી રાખવાનો Z.ai નો નિર્ણય એક વળાંક છે: શક્તિશાળી, ટૂલ-યુઝિંગ લેંગ્વેજ મોડેલ્સ હવે માત્ર વાતચીતની કુશળતા માટે જ નહીં, પરંતુ તેઓ જે પ્રકારના કાર્યોને ઓટોમેટ કરી શકે છે તેની વ્યાપકતા માટે પણ મહત્વના છે. જેમ જેમ વધુ લેબ્સ એજન્ટિક પર્ફોર્મન્સને પ્રાધાન્ય આપશે, તેમ તેમ તે ક્ષમતાઓને ડિફેન્ડર્સ વિરુદ્ધ વાપરવાનું જોખમ વધશે. આવનારા અઠવાડિયા એ બતાવશે કે સમુદાય ખુલ્લા સંશોધન અને દુરુપયોગ રોકવાની જરૂરિયાત વચ્ચે સંતુલન જાળવી શકે છે કે નહીં, અને શું એવા વિશ્વમાં પરમિસિવ લાયસન્સ ટકી શકશે જ્યાં “ઓપન વેટ્સ” એ સંપત્તિ જેટલું જ જોખમ બની શકે છે.