GLM-5.3 מסיר את דגל ה-"thinking: disabled", כך שכל אינטגרציה שהעבירה {"thinking":{"type":"disabled"}} מחזירה כעת שגיאה במקום תגובה. השינוי שבר עשרות סדרות בדיקות בן לילה ומחייב מפתחים לשכתב שורה אחת של קוד כדי להמשיך להפעיל את האפליקציות שלהם.

למה השינוי הזה חשוב

ב-GLM-5.2 ה-API אפשר לקוראים לכבות את מצב החשיבה עבור פרומפטים טריוויאליים. אפשרות זו הייתה תבנית נפוצה בסקריפטים של אוטומציה, צינורות עיבוד אצווה (batch-processing pipelines) ובוטים בעלי שיהוי (latency) נמוך. GLM-5.3 הסיר את הדגל לחלוטין והציג שלוש רמות מאמץ — low, high ו-max — כאשר max היא ברירת המחדל. המודל החדש תמיד מייצר reasoning trace; לא ניתן להשתיק אותו יותר לחלוטין.

מה נשבר ואיך זה מתפשט

כאשר גוף הבקשה מכיל "type":"disabled", השרת דוחה את ה-payload ומחזיר תגובת שגיאה כללית. לא מופיעות שגיאות אימות או תחביר, ולכן קשה לזהות את הבעיה עד שריצת רגרסיה מלאה נכשלת. מכיוון שהדגל היה קיים בתוך פונקציית עזר אחת ניתנת לשימוש חוזר במאגרי קוד רבים, ההשפעה התפשטה על סדרות בדיקות גדולות ועל נקודות קצה (endpoints) בייצור באותה מידה.

שינוי הקוד המדויק

החליפו את ה-payload הישן:

extra_body = {"thinking": {"type": "disabled"}}

בגרסה תואמת ל-GLM-5.3:

extra_body = {"thinking": {"type": "enabled", "effort": "low"}}

המפתח "type":"enabled" מפעיל מחדש את מנוע החשיבה, בעוד ש-"effort":"low" מחקה את המהירות של מצב ה-disabled הקודם ככל שהמודל החדש מאפשר זאת.

השלכות על הביצועים

הרצת אותם פרומפטים של סקירת קוד (code-review) עם הגדרת מאמץ נמוכה (low-effort) מניבה תוצאות שהן "קרובות למהירות הישנה" אך אינן זהות. המודל עדיין מפיק reasoning trace, מה שמוסיף מספר טוקנים נוספים ועלייה מתונה בשיהוי (latency). בעומסי עבודה בעלי תפוקה גבוהה או קריטיים לשיהוי, עליכם לבצע benchmark על הנתונים שלכם כדי לוודא שהתקורה (overhead) מקובלת.

למה להגר למרות העלות

GLM-5.3 שומר על ארכיטקטורת 744 מיליארד הפרמטרים של קודמו, אך מתמקד מחדש במשימות קידוד ומשימות סוכנותיות (agentic tasks). מדדי ביצוע עצמאיים (Terminal-Bench 3.0) מראים קפיצה ניכרת בציונים, ובדיקות פנימיות דיווחו על זיהוי טוב יותר של שגיאות לוגיות במספר קבצים. עבור צוותים המסתמכים על המודל לניתוח קוד מורכב, שיפורי הביצועים עשויים להצדיק את העלייה הקטנה בצריכת הטוקנים.

הפשרה שאי אפשר להתעלם ממנה

אם אפליקציה זקוקה באמת לתגובות ללא חשיבה (zero-thinking) — למשל, שירות השלמת טוקנים טהור — אין לה כעת אפשרות מובנית ב-GLM-5.3. מפתחים חייבים או לקבל את פלט החשיבה הנוסף או לעבור למודל אחר שעדיין מציע מצב disabled.

מה כדאי לעקוב אחריו בהמשך

  • ניטור שיהוי (Latency monitoring): לאחר שינוי ה-payload, עקבו אחר זמני התגובה ומספר הטוקנים כדי לזהות רגרסיות בשלב מוקדם.
  • כוונון מאמץ (Effort tuning): חלק מעומסי העבודה עשויים להפיק תועלת ממאמץ "high" ללא קנס מלא, לכן התנסו מעבר להגדרת ה-low.
  • ביטולים עתידיים (Future deprecations): הסרת דגל בודד מרמזת שה-API עשוי לחוות איחודים נוספים; עקבו אחר הערות הגרסה הקרובות.

שורה תחתונה: עדכון ה-payload של ה-thinking ל-{"type":"enabled","effort":"low"} מחזיר את התאימות ל-GLM-5.3. ודאו את השיהוי ושימוש הטוקנים בצינורות העבודה (pipelines) שלכם, והחליטו אם יכולות הקידוד המשופרות מצדיקות את ה-reasoning trace הבלתי נמנע.

דיונים ותמיכה מהקהילה זמינים בערוץ ה-Telegram של GyaanSetu AI.