Title: Zhipu ਦੇ GLM 5.3 ਦੀ ਡੀਕੋਡਿੰਗ: ਬੈਂਚਮਾਰਕ ਅੰਕੜਿਆਂ ਤੋਂ ਅੱਗੇ ਵਧਣਾ

Zhipu AI ਨੇ ਆਪਣਾ ਨਵਾਂ ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲ, GLM-5.3, ਲਾਂਚ ਕੀਤਾ ਹੈ, ਅਤੇ ਤੁਰੰਤ ਹੀ ਇੱਕ ਵੱਡੀ ਕਮਜ਼ੋਰੀ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ ਹੈ: ਇਸ ਦੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ (cybersecurity) ਰੱਖਿਆ ਇਸ ਦੇ ਤਰਕ (reasoning) ਅੱਪਗ੍ਰੇਡਾਂ ਦੇ ਪਿੱਛੇ ਹੈ। ਜੋ ਕੋਈ ਵੀ ਇਸ ਮਾਡਲ ਨੂੰ ਕਿਸੇ ਉਤਪਾਦ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਿਹਾ ਹੈ, ਉਸ ਨੂੰ ਹੁਣ ਇੱਕ ਅਜਿਹੀ ਸੁਰੱਖਿਆ ਰੁਕਾਵਟ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ ਜਿਸ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ।

ਰਿਲੀਜ਼ ਅਤੇ ਦੁਰਲੱਭ ਸਵੈ-ਮੁਲਾਂਕਣ

ਬੀਜਿੰਗ ਸਥਿਤ ਲੈਬ ਨੇ GLM-5.3 ਦੇ ਪ੍ਰਦਰਸ਼ਨ ਮਾਪਦੰਡਾਂ (performance metrics) ਦਾ ਐਲਾਨ ਕੀਤਾ, ਅਤੇ ਦਾਅਵਾ ਕੀਤਾ ਕਿ ਇਹ ਪ੍ਰਮੁੱਖ ਪੱਛਮੀ ਵਿਰੋਧੀਆਂ ਨਾਲ ਮੁਕਾਬਲਾ ਕਰ ਸਕਦਾ ਹੈ। ਮੁੱਖ ਅੰਕੜੇ ਗੁੰਝਲਦਾਰ ਤਰਕ ਅਤੇ ਹਦਾਇਤਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਵਾਲੇ ਟੈਸਟਾਂ ਵਿੱਚ ਸੁਧਾਰ ਦਿਖਾਉਂਦੇ ਹਨ, ਪਰ ਰਿਲੀਜ਼ ਨੋਟਸ ਵਿੱਚ ਇੱਕ ਅਜਿਹੀ ਲਾਈਨ ਹੈ ਜੋ ਇਸ ਐਲਾਨ ਨੂੰ ਵੱਖਰਾ ਬਣਾਉਂਦੀ ਹੈ: “ਸਾਡੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਮਰੱਥਾਵਾਂ ਉੱਥੇ ਸਭ ਤੋਂ ਤੇਜ਼ੀ ਨਾਲ ਵਧ ਰਹੀਆਂ ਹਨ ਜਿੱਥੇ ਅਸੀਂ ਸਭ ਤੋਂ ਪਿੱਛੇ ਹਾਂ।” ਸਿੱਧੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਲੈਬ ਨੇ ਮੰਨਿਆ ਹੈ ਕਿ ਪ੍ਰੋਂਪਟ-ਇੰਜੈਕਸ਼ਨ ਬਲਾਕ (prompt-injection blocks), ਜੇਲਬ੍ਰੇਕ ਰੱਖਿਆ (jailbreak defenses), ਅਤੇ ਮੈਲੀਸ਼ੀਅਸ-ਕੋਡ ਫਿਲਟਰ (malicious-code filters) ਅਜੇ ਵੀ ਵਿਕਾਸ ਅਧੀਨ ਹਨ।

ਇਹ ਪਾੜਾ ਕਿਵੇਂ ਪੈਦਾ ਹੋਇਆ

Zhipu ਦਾ ਰਸਤਾ ਇੱਕ ਵਿਆਪਕ ਪੈਟਰਨ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ: ਹਰ ਨਵੀਂ ਪੀੜ੍ਹੀ ਭਾਸ਼ਾ ਦੀ ਸਮਝ ਅਤੇ ਸਮੱਸਿਆ ਹੱਲ ਕਰਨ ਦੇ ਖੇਤਰ ਵਿੱਚ ਨਵੇਂ ਮਾਪਦੰਡ ਸਥਾਪਿਤ ਕਰਦੀ ਹੈ, ਪਰ ਨਾਲ ਹੀ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਮਾਡਲ ਨੂੰ ਅਣਚਾਹੇ ਵਿਵਹਾਰ ਲਈ ਮਜਬੂਰ ਕਰਨਾ ਵੀ ਆਸਾਨ ਬਣਾ ਦਿੰਦੀ ਹੈ। ਲੈਬ ਇਸ ਨੂੰ “ਸਮਰੱਥਾ-ਸੁਰੱਖਿਆ ਮਿਲਾਪ ਦੀ ਘਾਟ” (capability-safety misalignment) ਕਹਿੰਦੀ ਹੈ – ਇੱਕ ਵਧੇਰੇ ਸਮਰੱਥ ਮਾਡਲ ਉਨ੍ਹਾਂ ਸੁਰੱਖਿਆ ਪਰਤਾਂ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਬਾਈਪਾਸ ਕਰ ਸਕਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੇ ਪਹਿਲਾਂ ਦੇ ਕਮਜ਼ੋਰ ਵਰਜ਼ਨਾਂ ਨੂੰ ਰੋਕ ਕੇ ਰੱਖਿਆ ਸੀ।

ਡਿਵੈਲਪਰਾਂ ਲਈ ਇਸ ਕਮਜ਼ੋਰੀ ਦੇ ਕੀ ਅਰਥ ਹਨ

ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਤਿੰਨ ਖਾਸ ਚਿੰਤਾਵਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈਂਦਾ ਹੈ:

  • ਪ੍ਰੋਂਪਟ-ਇੰਜੈਕਸ਼ਨ ਜੋਖਮ (Prompt-injection risk) – ਹਮਲਾਵਰ ਅਜਿਹੇ ਲੁਕਵੇਂ ਕਮਾਂਡਾਂ ਨੂੰ ਜੋੜਦੇ ਹਨ ਜਾਂ ਅੰਦਰ ਸ਼ਾਮਲ ਕਰਦੇ ਹਨ ਜੋ ਮਾਡਲ ਨੂੰ ਅੰਦਰੂਨੀ ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਪ੍ਰਗਟ ਕਰਨ ਜਾਂ ਪਾਬੰਦੀਸ਼ੁਦਾ ਸਮੱਗਰੀ ਬਣਾਉਣ ਲਈ ਮੋੜ ਦਿੰਦੇ ਹਨ।
  • ਜੇਲਬ੍ਰੇਕ ਦੀ ਸੰਭਾਵਨਾ (Jailbreak susceptibility) – ਤਿਆਰ ਕੀਤੇ ਗਏ ਸਵਾਲ ਗਾਰਡਰੇਲ (guardrails) ਨੂੰ ਅਯੋਗ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਮਾਡਲ ਨੁਕਸਾਨਦੇਹ ਆਉਟਪੁੱਟ ਤਿਆਰ ਕਰ ਸਕਦਾ ਹੈ।
  • ਮੈਲੀਸ਼ੀਅਸ ਕੋਡ ਜਨਰੇਸ਼ਨ (Malicious code generation) – ਇੱਕ ਵਧੇਰੇ ਤਰਕਸ਼ੀਲ ਮਾਡਲ ਅਜਿਹੇ ਗੁੰਝਲਦਾਰ ਸਕ੍ਰਿਪਟ ਤਿਆਰ ਕਰ ਸਕਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਜੇਕਰ ਨਿਗਰਾਨੀ ਨਾ ਕੀਤੀ ਗਈ ਤਾਂ ਹਥਿਆਰ ਵਜੋਂ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ।

ਕਿਉਂਕਿ GLM-5.3 ਦੀ ਮੁੱਖ ਤਰਕ ਸ਼ਕਤੀ ਹੁਣ ਪ੍ਰਮੁੱਖ ਮਾਡਲਾਂ ਦੇ ਬਰਾਬਰ ਹੈ, ਇਸ ਲਈ ਇਸਦੇ ਸਿੱਧੇ ਆਉਟਪੁੱਟ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਦਾ ਲਾਲਚ ਵਧਦਾ ਹੈ। ਫਿਰ ਵੀ, ਸੁਰੱਖਿਆ ਦਾ ਇਹ ਪਾੜਾ ਕਿਸੇ ਵੀ ਪ੍ਰੋਡਕਸ਼ਨ ਡਿਪਲਾਈਮੈਂਟ ਨੂੰ ਵਾਧੂ ਕੰਟਰੋਲ ਜੋੜਨ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ: ਬਾਹਰੀ ਸਮੱਗਰੀ ਫਿਲਟਰ, ਸੈਂਡਬਾਕਸਡ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਵਾਤਾਵਰਣ (sandboxed execution environments), ਅਤੇ ਅਸਧਾਰਨ ਵਰਤੋਂ ਦੇ ਪੈਟਰਨਾਂ ਲਈ ਨਿਰੰਤਰ ਨਿਗਰਾਨੀ।

ਵਿਰੋਧੀ ਨੁਕਤਾ: ਕੀ ਹੋਰ ਲੈਬਾਂ ਵਧੇਰੇ ਸੁਰੱਖਿਅਤ ਹਨ?

Zhipu ਇਸ ਸਮਝੌਤੇ (trade-off) ਨਾਲ ਲੜਨ ਵਿੱਚ ਇਕੱਲੀ ਨਹੀਂ ਹੈ। ਇਸਦਾ ਮੰਨਣਾ, ਭਾਵੇਂ ਅਸੁਖਾਵਾਂ ਹੈ, ਪਰ ਪਾਰਦਰਸ਼ੀ ਹੈ; ਇਹ ਇੰਟੀਗ੍ਰੇਟਰਾਂ ਨੂੰ ਮਾਡਲ ਨੂੰ “ਇੱਕ ਪ੍ਰੋਵੀਜ਼ਨਲ ਸੁਰੱਖਿਆ ਚੈਸੀਸ (safety chassis) ਵਾਲੇ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੇ ਇੰਜਣ” ਵਜੋਂ ਮੰਨਣ ਲਈ ਕਹਿੰਦਾ ਹੈ।

ਵਿਆਪਕ ਮੁਕਾਬਲੇ ਦੀ ਤਸਵੀਰ

GLM-5.3 ਦੀ ਰਿਲੀਜ਼ ਸਭ ਤੋਂ ਉੱਚੇ ਬੈਂਚਮਾਰਕ ਸਕੋਰ ਲਈ ਇੱਕ ਸਿੰਗਲ-ਪਲੇਅਰ ਦੌੜ ਤੋਂ ਹਟ ਕੇ ਵਰਤੋਂ ਯੋਗ, ਸੁਰੱਖਿਅਤ ਬੁੱਧੀ (intelligence) ਲਈ ਇੱਕ ਮਲਟੀ-ਪਲੇਅਰ ਮੁਕਾਬਲੇ ਵੱਲ ਤਬਦੀਲੀ ਦਾ ਪ੍ਰਤੀਕ ਹੈ। Zhipu ਸਮੇਤ ਚੀਨੀ ਲੈਬਾਂ ਨੇ ਆਪਣੇ ਇਟਰੇਸ਼ਨ ਚੱਕਰਾਂ (iteration cycles) ਨੂੰ ਤੇਜ਼ ਕਰ ਦਿੱਤਾ ਹੈ, ਜਿਸ ਨਾਲ ਕੁਝ ਪੱਛਮੀ ਸੰਸਥਾਵਾਂ ਕੋਲ ਪਹਿਲਾਂ ਰਹੀ ਲੀਡ ਘਟ ਰਹੀ ਹੈ।

ਸਿੱਖਿਆ (Takeaway)

GLM-5.3 ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ Zhipu AI ਤਰਕ ਦੇ ਮਾਮਲੇ ਵਿੱਚ ਵਿਸ਼ਵਵਿਆਪੀ ਲੀਡਰਾਂ ਦੇ ਬਰਾਬਰ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਉਹੀ ਰਿਲੀਜ਼ ਖੁੱਲ੍ਹੇਆਮ ਮੰਨਦੀ ਹੈ ਕਿ ਇਸਦਾ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਕਵਚ ਅਜੇ ਵੀ ਪਿੱਛੇ ਹੈ। ਇਸ ਲਈ, ਇਹ ਮਾਡਲ ਇੱਕ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲਾ ਸਾਧਨ ਹੈ ਜਿਸ ਨੂੰ ਅਸਲ ਦੁਨੀਆ ਦੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਭਰੋਸਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਮਜ਼ਬੂਤ, ਬਾਹਰੀ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨਾਲ ਜੋੜਨਾ ਚਾਹੀਦਾ ਹੈ।