GLM-5.3 ने “thinking: disabled” फ्लॅग काढून टाकला आहे, त्यामुळे {"thinking":{"type":"disabled"}} पास करणारे कोणतेही इंटिग्रेशन आता प्रतिसादाऐवजी एरर (error) देईल. या बदलामुळे रातोरात डझनभर टेस्ट सूट्स (test suites) बिघडले आहेत आणि ॲप्लिकेशन्स चालू ठेवण्यासाठी डेव्हलपर्सना कोडची एक ओळ पुन्हा लिहावी लागत आहे.

हा बदल का महत्त्वाचा आहे

GLM-5.2 मध्ये, API वापरकर्त्यांना साध्या प्रॉम्प्ट्ससाठी थिंकिंग मोड (thinking mode) बंद करण्याची परवानगी देत असे. ऑटोमेशन स्क्रिप्ट्स, बॅच-प्रोसेसिंग पाइपलाइन्स आणि लो-लेटन्सी बॉट्समध्ये हा एक सामान्य पॅटर्न होता. GLM-5.3 ने हा फ्लॅग पूर्णपणे काढून टाकला आहे आणि तीन प्रयत्न पातळी (effort levels)—low, high आणि max—सादर केल्या आहेत, ज्यामध्ये max हा डिफॉल्ट पर्याय आहे. नवीन मॉडेल नेहमीच एक रीझनिंग ट्रेस (reasoning trace) जनरेट करते; ते आता पूर्णपणे बंद करता येणार नाही.

काय बिघडले आणि त्याचा प्रसार कसा होतो

जेव्हा रिक्वेस्ट बॉडीमध्ये "type":"disabled" असते, तेव्हा सर्व्हर पेलोड (payload) नाकारतो आणि एक सामान्य फेल्युअर रिस्पॉन्स (generic failure response) देतो. यामध्ये कोणतेही ऑथेंटिकेशन किंवा सिंटॅक्स एरर्स दिसत नाहीत, त्यामुळे पूर्ण रिग्रेशन रन (regression run) फेल होईपर्यंत समस्या शोधणे कठीण जाऊ शकते. अनेक कोडबेसेसमध्ये हा फ्लॅग एकाच, पुन्हा वापरता येण्याजोग्या हेल्पर फंक्शनमध्ये असल्याने, याचा परिणाम मोठ्या टेस्ट सूट्स आणि प्रोडक्शन एंडपॉइंट्सवरही झाला आहे.

नेमका कोड बदल

जुना पेलोड बदला:

extra_body = {"thinking": {"type": "disabled"}}

GLM-5.3-सुसंगत आवृत्तीने:

extra_body = {"thinking": {"type": "enabled", "effort": "low"}}

"type":"enabled" की रीझनिंग इंजिन पुन्हा सक्रिय करते, तर "effort":"low" हे नवीन मॉडेल जितके शक्य असेल तितक्या जवळ जुन्या 'disabled' मोडचा वेग साधते.

कामगिरीवर होणारे परिणाम (Performance implications)

लो-एफर्ट (low-effort) सेटिंगसह तेच कोड-रिव्ह्यू प्रॉम्प्ट्स चालवल्यास मिळणारे निकाल "जुना वेग जवळ जाणारे" असतात, परंतु ते तंतोतंत सारखे नसतात. मॉडेल अजूनही रीझनिंग ट्रेस उत्सर्जित करते, ज्यामुळे काही अतिरिक्त टोकन्स आणि थोडी लेटन्सी (latency) वाढते. हाय-थ्रूपुट किंवा लेटन्सी-क्रिटिकल वर्कलोड्समध्ये, हा अतिरिक्त भार स्वीकारण्यायोग्य आहे की नाही हे तपासण्यासाठी तुम्ही तुमच्या स्वतःच्या डेटावर बेंचमार्क केले पाहिजे.

खर्च असूनही स्थलांतर (migrate) का करावे

GLM-5.3 त्याच्या पूर्ववर्तीचे ७४४-बिलियन-पॅरामीटर आर्किटेक्चर कायम ठेवते परंतु कोडिंग आणि एजन्टिक (agentic) टास्कवर पुन्हा लक्ष केंद्रित करते. स्वतंत्र बेंचमार्क्स (Terminal-Bench 3.0) स्कोअरमध्ये लक्षणीय वाढ दर्शवतात आणि अंतर्गत चाचण्यांमध्ये अनेक फाइल्समधील लॉजिक एरर्स अधिक चांगल्या प्रकारे शोधल्याचे दिसून आले आहे. जे टीम्स जटिल कोड विश्लेषणासाठी या मॉडेलवर अवलंबून आहेत, त्यांच्यासाठी टोकन वापराच्या किरकोळ वाढीपेक्षा कामगिरीतील फायदा जास्त असू शकतो.

तुम्ही दुर्लक्षित करू न शकणारा ट्रेड-ऑफ (trade-off)

जर एखाद्या ॲप्लिकेशनला खरोखरच 'झिरो-थिंकिंग' रिस्पॉन्सची गरज असेल—उदा. शुद्ध टोकन-कम्प्लिशन सर्व्हिस—तर GLM-5.3 मध्ये आता तसा कोणताही नेटिव्ह पर्याय उपलब्ध नाही. डेव्हलपर्सना एकतर अतिरिक्त रीझनिंग आउटपुट स्वीकारणे भाग पडेल किंवा दुसऱ्या मॉडेलकडे वळावे लागेल जे अजूनही 'disabled' मोड ऑफर करते.

पुढील गोष्टींकडे काय लक्ष द्यावे

  • लेटन्सी मॉनिटरिंग (Latency monitoring): पेलोड बदलल्यानंतर, रिग्रेशन्स लवकर ओळखण्यासाठी रिस्पॉन्स टाइम आणि टोकन काउंट ट्रॅक करा.
  • एफर्ट ट्यूनिंग (Effort tuning): काही वर्कलोड्सना पूर्ण पेनल्टीशिवाय “high” एफर्टचा फायदा होऊ शकतो, त्यामुळे 'low' सेटिंगच्या पलीकडे प्रयोग करून पहा.
  • भविष्यातील डिप्रिकेशन्स (Future deprecations): एका फ्लॅगच्या काढून टाकण्यावरून असे सूचित होते की API मध्ये आणखी एकत्रीकरण (consolidations) होऊ शकते; आगामी रिलीज नोट्सवर लक्ष ठेवा.

मुख्य मुद्दा: thinking पेलोड अपडेट करून {"type":"enabled","effort":"low"} केल्यास GLM-5.3 सोबत सुसंगतता पुन्हा प्रस्थापित होते. तुमच्या पाइपलाइन्समध्ये लेटन्सी आणि टोकन वापराची पडताळणी करा आणि सुधारित कोडिंग क्षमता अपरिहार्य रीझनिंग ट्रेसची भरपाई करण्यास पुरेशी आहे का, याचा निर्णय घ्या.

चर्चा आणि कम्युनिटी सपोर्ट GyaanSetu AI टेलिग्राम चॅनेलवर उपलब्ध आहेत.