Open Web Application Security Project ਨੇ ਆਪਣੀ 2026 GenAI LLM Top 10 ਜਾਰੀ ਕੀਤੀ ਹੈ, ਅਤੇ “Excessive Agency” ਛੇਵੇਂ ਤੋਂ ਤੀਜੇ ਸਥਾਨ 'ਤੇ ਪਹੁੰਚ ਗਈ ਹੈ। ਇਹ ਉਛਾਲ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਸਭ ਤੋਂ ਖ਼ਤਰਨਾਕ ਅਸਫਲਤਾਵਾਂ ਹੁਣ ਸਿਰਫ਼ ਮਾੜੇ ਆਊਟਪੁੱਟ ਤੱਕ ਸੀਮਤ ਨਹੀਂ ਹਨ, ਸਗੋਂ ਅਜਿਹੇ ਏਜੰਟਾਂ ਤੱਕ ਹਨ ਜੋ ਤੁਹਾਡੇ ਇਨਫਰਾਸਟ੍ਰਕਚਰ (infrastructure) 'ਤੇ ਕਾਰਵਾਈ ਕਰ ਸਕਦੇ ਹਨ।
ਇਹ ਬਦਲਾਅ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ
ਪਹਿਲੀ ਵਾਰ, Top 10 ਦਾ ਇੱਕ ਚੌਥਾਈ ਡਾਟਾ ਅਸਲ ਘਟਨਾਵਾਂ ਤੋਂ ਲਿਆ ਗਿਆ ਹੈ—6,000 ਤੋਂ ਵੱਧ ਰਿਪੋਰਟ ਕੀਤੇ ਗਏ ਉਲੰਘਣ (breaches), ਐਕਸਪਲੋਇਟਸ (exploits) ਅਤੇ ਗਲਤ ਵਿਵਹਾਰ। ਪਹਿਲਾਂ ਦੇ ਐਡੀਸ਼ਨ ਲਗਭਗ ਪੂਰੀ ਤਰ੍ਹਾਂ ਮਾਹਰਾਂ ਦੀ ਰਾਏ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਸਨ। ਅਸਲ ਦੁਨੀਆ ਦੇ ਸੰਕੇਤ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਜਦੋਂ ਇੱਕ ਲੈਂਗੂਏਜ ਮਾਡਲ APIs ਨੂੰ ਕਾਲ ਕਰ ਸਕਦਾ ਹੈ, ਕੋਡ ਚਲਾ ਸਕਦਾ ਹੈ ਜਾਂ ਪੈਸੇ ਦੀ ਤਬਦੀਲੀ ਕਰ ਸਕਦਾ ਹੈ, ਤਾਂ ਨਤੀਜੇ ਸ਼ਰਮਨਾਕ ਟੈਕਸਟ ਲੀਕਾਂ ਤੋਂ ਬਦਲ ਕੇ ਗੰਭੀਰ ਕਾਰਜਸ਼ੀਲ ਨੁਕਸਾਨ (operational damage) ਤੱਕ ਪਹੁੰਚ ਜਾਂਦੇ ਹਨ। Prompt injection ਅਜੇ ਵੀ ਸੂਚੀ ਵਿੱਚ ਸਭ ਤੋਂ ਉੱਪਰ ਹੈ, ਜਿਸ ਤੋਂ ਬਾਅਦ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਦਾ ਖੁਲਾਸਾ (sensitive information disclosure) ਆਉਂਦਾ ਹੈ, ਪਰ ਤਾਪ ਤਿੰਨ ਵਿੱਚ “Excessive Agency” ਦਾ ਵਧਣਾ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਨੂੰ ਦੱਸਦਾ ਹੈ ਕਿ ਹਮਲਿਆਂ ਦੀ ਅਗਲੀ ਲਹਿਰ ਸਿਰਫ਼ ਭਾਸ਼ਾਈ ਹੋਣ ਦੀ ਬਜਾਏ ਟੂਲ-ਸੰਬੰਧਿਤ ਹੋਵੇਗੀ।
“Excessive agency” ਕਿਹੋ ਜਿਹਾ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ
Excessive agency ਕਿਸੇ ਵੀ ਅਜਿਹੀ ਸਥਿਤੀ ਦਾ ਵਰਣਨ ਕਰਦੀ ਹੈ ਜਿੱਥੇ ਇੱਕ LLM ਨੂੰ ਅਜਿਹੀ ਸਮਰੱਥਾ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਜੋ ਉਸ ਕੋਲ ਨਹੀਂ ਹੋਣੀ ਚਾਹੀਦੀ, ਜਾਂ ਇੰਨੀ ਜ਼ਿਆਦਾ ਸਮਰੱਥਾ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਜਿਸ ਨੂੰ ਆਲੇ-ਦੁਆਲੇ ਦੇ ਗਾਰਡਰੇਲ (guardrails) ਕੰਟਰੋਲ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਆਮ ਉਦਾਹਰਣਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:
- ਇੱਕ ਸਹਾਇਕ (assistant) ਜੋ ਪਰਮਿਸ਼ਨ ਚੈੱਕ ਕੀਤੇ ਬਿਨਾਂ ਅੰਦਰੂਨੀ ਮਾਈਕਰੋ-ਸਰਵਿਸ ਐਂਡਪੁਆਇੰਟਸ (micro-service endpoints) ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ।
- ਇੱਕ ਕੋਡ-ਜਨਰੇਸ਼ਨ ਬੋਟ ਜੋ ਪ੍ਰੋਡਕਸ਼ਨ ਸਰਵਰਾਂ 'ਤੇ ਸਕ੍ਰਿਪਟਾਂ ਲਿਖਦਾ ਅਤੇ ਚਲਾਉਂਦਾ ਹੈ।
- ਇੱਕ ਵਿੱਤੀ-ਆਟੋਮੇਸ਼ਨ ਏਜੰਟ ਜੋ ਇੱਕ ਤਿਆਰ ਕੀਤੇ ਗਏ ਪ੍ਰੋਂਪਟ (crafted prompt) ਤੋਂ ਬਾਅਦ ਟ੍ਰਾਂਸਫਰ ਸ਼ੁਰੂ ਕਰਦਾ ਹੈ।
ਜੇਕਰ ਕੋਈ ਮਾਲੀਸ਼ੀਆਸ ਪ੍ਰੋਂਪਟ (malicious prompt) ਮਾਡਲ ਨੂੰ ਅਜਿਹੀਆਂ ਸ਼ਕਤੀਆਂ ਦੇ ਦੌਰਾਨ ਧੋਖਾ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਉਲੰਘਣ ਤੁਰੰਤ ਹੁੰਦਾ ਹੈ ਅਤੇ ਅਕਸਰ ਮਹਿੰਗਾ ਪੈਂਦਾ ਹੈ। ਇਹ ਜੋਖਮ ਪ੍ਰੋਂਪਟ ਦੀ ਪਾਲਣਾ ਕਰਨ ਦੀ ਮਾਡਲ ਦੀ ਯੋਗਤਾ ਅਤੇ ਆਲੇ-ਦੁਆਲੇ ਦੇ ਕੰਟਰੋਲ ਦੀ ਸਖ਼ਤੀ ਦੇ ਵਿਚਕਾਰਲੇ ਅੰਤਰ ਦੇ ਅਨੁਪਾਤ ਵਿੱਚ ਵਧਦਾ ਹੈ।
ਨਵਾਂ Top 10 ਕਿਵੇਂ ਬਣਾਇਆ ਗਿਆ
2026 ਦਾ ਐਡੀਸ਼ਨ ਮਾਹਰਾਂ ਦੇ ਫੈਸਲੇ ਨੂੰ ਅਸਲ ਡਾਟਾ ਨਾਲ ਮਿਲਾਉਂਦਾ ਹੈ। ਰੈਂਕਿੰਗ ਦਾ ਲਗਭਗ 25% ਹਿੱਸਾ ਪਹਿਲਾਂ ਦੱਸੇ ਗਏ ਘਟਨਾ ਪੂਲ ਤੋਂ ਲਿਆ ਗਿਆ ਹੈ, ਜੋ ਕਿ ਅਸਲ ਵਿੱਚ ਸਾਹਮਣੇ ਆਏ ਪੈਟਰਨਾਂ ਨੂੰ ਮਹੱਤਵ ਦਿੰਦਾ ਹੈ। ਇਹ ਵਿਧੀ (methodology) ਵਿੱਚ ਬਦਲਾਅ ਦੱਸਦਾ ਹੈ ਕਿ “Excessive Agency” ਇੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਕਿਉਂ ਵਧੀ: ਡਾਟਾ ਉਨ੍ਹਾਂ ਘਟਨਾਵਾਂ ਵਿੱਚ ਸਪੱਸ਼ਟ ਵਾਧਾ ਦਿਖਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਮਾਡਲ ਨੇ ਸਿਰਫ਼ ਟੈਕਸਟ ਲਿਖਣ ਦੀ ਬਜਾਏ ਕੋਈ ਕਾਰਵਾਈ ਕੀਤੀ।
ਹੋਰ ਮਹੱਤਵਪੂਰਨ ਬਦਲਾਅ
- Hidden Context Exposure (ਜਿਸਦਾ ਨਾਮ “System Prompt Leakage” ਤੋਂ ਬਦਲ ਕੇ ਰੱਖਿਆ ਗਿਆ ਹੈ) ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਦੇ ਇੱਕ ਵਿਸ਼ਾਲ ਸੈੱਟ ਨੂੰ ਕਵਰ ਕਰਨ ਲਈ ਉੱਪਰ ਚੜ੍ਹ ਗਿਆ ਹੈ, ਜੋ ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਹਮਲਾਵਰ ਭੇਦ (secrets) ਲੱਭਣ ਲਈ ਮਾਡਲ ਕੰਟੈਕਸਟ ਦੀ ਵੱਧ ਤੋਂ ਵੱਧ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ।
- Improper Output Handling ਦਸਵੇਂ ਸਥਾਨ 'ਤੇ ਆ ਗਿਆ ਹੈ, ਜੋ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਕਿ ਸੰਸਥਾਵਾਂ ਮਾਡਲ ਦੇ ਕੱਚੇ ਜਵਾਬਾਂ (raw responses) ਨੂੰ ਸਾਫ਼ ਕਰਨ ਵਿੱਚ ਬਿਹਤਰ ਹੋ ਰਹੀਆਂ ਹਨ। ਉਦਯੋਗ ਦਾ ਧਿਆਨ “ਮਾਡਲ ਨੇ ਕੁਝ ਮਾੜਾ ਕਿਹਾ” ਤੋਂ ਹਟ ਕੇ “ਮਾਡਲ ਨੇ ਕੁਝ ਮਾੜਾ ਕੀਤਾ” ਵੱਲ ਜਾ ਰਿਹਾ ਹੈ।
ਇਹ ਹਰਕਤਾਂ ਇਸ ਗੱਲ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦੀਆਂ ਹਨ ਕਿ ਖ਼ਤਰੇ ਦਾ ਖੇਤਰ ਸਥਿਰ ਆਊਟਪੁੱਟ ਤੋਂ ਵਧ ਕੇ ਗਤੀਸ਼ੀਲ ਵਿਵਹਾਰਾਂ (dynamic behaviors) ਤੱਕ ਫੈਲ ਰਿਹਾ ਹੈ।
ਜੋਖਮ ਨੂੰ ਘਟਾਉਣਾ
ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਤਿੰਨ ਵਿਵਹਾਰਕ ਕਦਮਾਂ ਨਾਲ excessive agency ਨੂੰ ਘਟਾਉਣਾ ਸ਼ੁਰੂ ਕਰ ਸਕਦੀਆਂ ਹਨ:
- ਆਪਣੇ ਟੂਲਜ਼ ਦਾ ਦਾਇਰਾ (Scope) ਤੈਅ ਕਰੋ – ਹਰੇਕ ਏਜੰਟ ਨੂੰ ਸਿਰਫ਼ ਉਹੀ ਕਾਰਵਾਈਆਂ ਅਸਾਈਨ ਕਰੋ ਜੋ ਉਸਦੇ ਖਾਸ ਕੰਮ ਲਈ ਲੋੜੀਂਦੀਆਂ ਹਨ। ਸਹੂਲਤ ਲਈ ਇੱਕੋ LLM ਨੂੰ “ਪੂਰਾ ਟੂਲਬਾਕਸ” ਦੇਣ ਤੋਂ ਬਚੋ; ਵਿਸਤ੍ਰਿਤ (granular) ਇਜਾਜ਼ਤਾਂ ਇੱਕ ਕੰਪ੍ਰੋਮਾਈਜ਼
ਸੰਦੇਸ਼ ਸਪੱਸ਼ਟ ਹੈ: ਇੱਕ ਭਾਸ਼ਾ ਮਾਡਲ ਨੂੰ ਕੰਮ ਕਰਨ ਦੀ ਸ਼ਕਤੀ ਦੇਣਾ ਸਸਤਾ ਹੈ; ਉਸ ਸ਼ਕਤੀ ਤੋਂ ਬਚਾਅ ਕਰਨਾ ਮਹਿੰਗਾ ਹੈ। ਉਹ ਸੰਸਥਾਵਾਂ ਜੋ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਨੂੰ ਇੱਕ ਫੈਸਲੇ ਵਜੋਂ ਨਹੀਂ, ਸਗੋਂ ਇੱਕ ਬੇਨਤੀ ਵਜੋਂ ਮੰਨਦੀਆਂ ਹਨ, ਉਹ ਟੂਲ-ਸਮਰੱਥ ਹਮਲਿਆਂ ਦੀ ਉੱਭਰ ਰਹੀ ਲਹਿਰ ਤੋਂ ਅੱਗੇ ਰਹਿਣਗੀਆਂ।