GLM-5.3では「thinking: disabled」フラグが廃止されたため、{"thinking":{"type":"disabled"}} を渡していた統合処理は、レスポンスの代わりにエラーを返すようになります。この変更により、一晩で数十ものテストスイートが機能しなくなり、アプリケーションの稼働を維持するために、開発者はわずか1行のコードを書き換えることを余儀なくされています。
なぜこの変更が重要なのか
GLM-5.2では、些細なプロンプトに対して思考モードをオフにすることができました。そのオプションは、自動化スクリプト、バッチ処理パイプライン、低レイテンシのボットにおける一般的なパターンでした。GLM-5.3では、このフラグが完全に削除され、代わりに3つのエフォートレベル（low、high、max）が導入されました。デフォルトは max です。新しいモデルは常に推論トレースを生成するため、完全に無効化することはできなくなりました。
何が壊れ、どのように影響が広がるのか
リクエストボディに "type":"disabled" が含まれていると、サーバーはペイロードを拒否し、汎用的な失敗レスポンスを返します。認証エラーや構文エラーは表示されないため、フルリグレッションテストが失敗するまで問題に気づきにくい場合があります。多くのコードベースにおいて、このフラグが単一の再利用可能なヘルパー関数内に存在していたため、その影響は大規模なテストスイートから本番環境のエンドポイントに至るまで波及しました。
具体的なコードの変更内容
旧ペイロードを以下に置き換えます：
extra_body = {"thinking": {"type": "disabled"}}
GLM-5.3互換バージョンに：
extra_body = {"thinking": {"type": "enabled", "effort": "low"}}
"type":"enabled" キーによって推論エンジンが再有効化され、"effort":"low" は新しいモデルが許容する範囲内で、以前の無効モードの速度を可能な限り再現します。
パフォーマンスへの影響
同じコードレビューのプロンプトを low-effort 設定で実行すると、「以前の速度に近い」結果が得られますが、全く同じではありません。モデルは依然として推論トレースを出力するため、トークン数がわずかに増加し、レイテンシも多少上昇します。高スループットまたは低レイテンシが要求されるワークロードでは、オーバーヘッドが許容範囲内であることを確認するために、独自のデータでベンチマークを行う必要があります。
コストを払ってでも移行すべき理由
GLM-5.3は、前身の7440億パラメータのアーキテクチャを維持しつつ、コーディングとエージェント的なタスクに焦点を当てています。独立したベンチマーク（Terminal-Bench 3.0）ではスコアの顕著な上昇が見られ、内部テストでは複数ファイルにわたる論理エラーの検出能力が向上したことが報告されています。複雑なコード分析にこのモデルを利用しているチームにとって、パフォーマンスの向上はトークン消費のわずかな増加を上回るメリットとなり得ます。
無視できないトレードオフ
もしアプリケーションが、純粋なトークン補完サービスのように、思考プロセスを一切必要としないレスポンスを真に必要としている場合、GLM-5.3には現在、ネイティブなオプションが存在しません。開発者は、追加の推論出力を受け入れるか、あるいは依然として無効モードを提供している別のモデルに切り替える必要があります。
今後の注目点
- レイテンシの監視: ペイロードの変更後、レスポンス時間とトークン数を追跡し、リグレッションを早期に発見してください。
- エフォートのチューニング: 一部のワークロードでは、大きなペナルティなしに「high」エフォートの恩恵を受けられる可能性があるため、low設定以外のものも試してみてください。
- 将来的な廃止予定: 単一のフラグが削除されたことは、APIが今後さらに統合される可能性があることを示唆しています。今後のリリースノートに注意してください。
結論: thinking ペイロードを {"type":"enabled","effort":"low"} に更新することで、GLM-5.3との互換性が回復します。パイプラインにおけるレイテンシとトークン使用量を確認し、向上したコーディング能力が避けられない推論トレースのコストに見合うかどうかを判断してください。
ディスカッションやコミュニティサポートは、GyaanSetu AI Telegramチャンネルで利用可能です。