AI Slop Apple ਦੇ Bug Bounty Program ਨੂੰ ਰੋਕ ਰਿਹਾ ਹੈ, $200K macOS ਖਾਮੀ ਨੂੰ ਛੁਪਾ ਰਿਹਾ ਹੈ
ਜਨਰੇਟਿਵ AI ਦਾ ਵਧਦਾ ਪ੍ਰਭਾਵ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਿੱਚ ਇੱਕ ਅਣਪਛਾਤੀ ਲੜਾਈ ਪੈਦਾ ਕਰ ਰਿਹਾ ਹੈ, ਕਿਉਂਕਿ ਘਟੀਆ ਗੁਣਵੱਤਾ ਵਾਲੀਆਂ, ਆਟੋਮੇਟਿਡ ਰਿਪੋਰਟਾਂ ਰਵਾਇਤੀ ਕਮਜ਼ੋਰੀਆਂ (vulnerability) ਨੂੰ ਦੱਸਣ ਵਾਲੀਆਂ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਰਹੀਆਂ ਹਨ। ਇੱਕ ਮਹੱਤਵਪੂਰਨ macOS ਖਾਮੀ, ਜਿਸਦੀ ਕੀਮਤ $200,000 ਤੱਕ ਸੀ, ਹਾਲ ਹੀ ਵਿੱਚ ਰਿਪੋਰਟ ਨਹੀਂ ਕੀਤੀ ਜਾ ਸਕੀ ਕਿਉਂਕਿ Apple ਦਾ ਬੱਗ ਬਾਊਂਟੀ ਸਬਮਿਸ਼ਨ ਕੋਟਾ "AI Slop" ਦੁਆਰਾ ਖਤਮ ਕਰ ਦਿੱਤਾ ਗਿਆ ਸੀ।
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਿੱਚ "AI Slop" ਦੀ ਕੀਮਤ
ਜਿਵੇਂ-ਜਿਵੇਂ ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲ (LLMs) ਵਧੇਰੇ ਸੁਲਭ ਹੋ ਰਹੇ ਹਨ, "ਘੱਟ ਮਿਹਨਤ" ਵਾਲੀ ਸੁਰੱਖਿਆ ਖੋਜ ਦੀ ਇੱਕ ਨਵੀਂ ਲਹਿਰ ਉੱਭਰੀ ਹੈ। ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾ ਵੱਡੀ ਮਾਤਰਾ ਵਿੱਚ ਬੱਗ ਰਿਪੋਰਟਾਂ ਤਿਆਰ ਕਰਨ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਬਹੁਤ ਸਾਰੀਆਂ "ਹੈਲੂਸੀਨੇਟਡ" (hallucinated) ਕਮਜ਼ੋਰੀਆਂ ਵਾਲੀਆਂ ਹੁੰਦੀਆਂ ਹਨ—ਇਹ ਉਹ ਤਕਨੀਕੀ ਗਲਤੀਆਂ ਹਨ ਜਿੱਥੇ AI ਗਲਤੀ ਨਾਲ ਕਿਸੇ ਗੈਰ-ਮੌਜੂਦ ਸੁਰੱਖਿਆ ਖਾਮੀ ਦੀ ਪਛਾਣ ਕਰਦਾ ਹੈ।
ਆਟੋਮੇਟਿਡ ਅਤੇ ਘਟੀਆ ਗੁਣਵੱਤਾ ਵਾਲੇ ਡੇਟਾ ਦੀ ਇਸ ਆਮਦ ਨੇ Apple ਨੂੰ ਆਪਣੇ ਇੰਜੀਨੀਅਰਿੰਗ ਸਰੋਤਾਂ ਦੀ ਰੱਖਿਆ ਲਈ ਸਖ਼ਤ ਕਦਮ ਚੁੱਕਣ ਲਈ ਮਜਬੂਰ ਕਰ ਦਿੱਤਾ ਹੈ। ਇਸ ਸ਼ੋਰ (noise) ਨੂੰ ਸੰਭਾਲਣ ਲਈ, Apple ਹੁਣ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਜਮ੍ਹਾਂ ਕੀਤੀਆਂ ਜਾਣ ਵਾਲੀਆਂ ਬੱਗ ਰਿਪੋਰਟਾਂ ਦੀ ਗਿਣਤੀ 'ਤੇ ਸੀਮਾ ਲਗਾ ਰਿਹਾ ਹੈ ਅਤੇ ਸਬਮਿਸ਼ਨਾਂ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਲਾਜ਼ਮੀ 30-ਦਿਨਾਂ ਦਾ ਕੂਲਡਾਊਨ ਪੀਰੀਅਡ (cooldown period) ਲਾਗੂ ਕਰ ਰਿਹਾ ਹੈ। ਹਾਲਾਂਕਿ ਇਹ ਪ੍ਰਕਿਰਿਆ ਦੀ ਕੁਸ਼ਲਤਾ ਬਣਾਈ ਰੱਖਣ ਲਈ ਕੀਤਾ ਗਿਆ ਹੈ, ਪਰ ਇਹ ਪਾਬੰਦੀਆਂ ਈਕੋਸਿਸਟਮ ਵਿੱਚ ਖ਼ਤਰਨਾਕ ਖਾਲੀਆਂ ਥਾਵਾਂ (blind spots) ਪੈਦਾ ਕਰ ਰਹੀਆਂ ਹਨ।
ਕੋਟਾ ਕਾਰਨ ਚੁੱਪ ਰਹਿ ਗਈ $200,000 ਦੀ ਕਮਜ਼ੋਰੀ
ਇਸ ਰੁਕਾਵਟ ਦੇ ਅਸਲ ਪ੍ਰਭਾਵ ਨੂੰ ਇਟਲੀ ਦੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਟਾਰਟਅੱਪ Bynario ਦੁਆਰਾ ਉਜਾਗਰ ਕੀਤਾ ਗਿਆ ਸੀ। ਫਰਮ ਨੇ ਇੱਕ ਗੰਭੀਰ macOS ਕਮਜ਼ੋਰੀ ਦੀ ਖੋਜ ਕੀਤੀ ਜੋ ਹਮਲਾਵਰਾਂ ਨੂੰ ਟਾਰਗੇਟ ਮਸ਼ੀਨ 'ਤੇ ਪੂਰਾ ਕੰਟਰੋਲ ਦੇਣ ਦੇ ਸਮਰੱਥ ਸੀ। ਖਾਮੀ ਦੀ ਗੰਭੀਰਤਾ ਦੇ ਬਾਵਜੂਦ, Bynario Apple ਦੇ ਅਧਿਕਾਰਤ ਚੈਨਲਾਂ ਰਾਹੀਂ ਇਸ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਵਿੱਚ ਅਸਮਰੱਥ ਰਿਹਾ ਕਿਉਂਕਿ ਹੋਰ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਸਬਮਿਸ਼ਨ ਕੋਟਾ ਪਹਿਲਾਂ ਹੀ ਪੂਰਾ ਕੀਤਾ ਜਾ ਚੁੱਕਾ ਸੀ।
Bynario ਦੇ CEO, Alfredo Pesoli ਦਾ ਅਨੁਮਾਨ ਹੈ ਕਿ ਇਸ ਖਾਸ ਕਮਜ਼ੋਰੀ ਦੀ ਕਾਲੇ ਬਾਜ਼ਾਰ ਵਿੱਚ ਕੀਮਤ $100,000 ਤੋਂ $200,000 ਦੇ ਵਿਚਕਾਰ ਹੈ। ਹਾਲਾਂਕਿ ਰਿਪੋਰਟਾਂ ਤੋਂ ਬਾਅਦ Apple ਨੇ Bynario ਨਾਲ ਸੰਪਰਕ ਕੀਤਾ ਹੈ, ਪਰ ਇਹ ਘਟਨਾ ਇੱਕ ਵਧ ਰਹੇ ਪ੍ਰਣਾਲੀਗਤ ਜੋਖਮ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ: ਜਦੋਂ ਆਟੋਮੇਟਿਡ ਸ਼ੋਰ ਉੱਚ-ਪ੍ਰਭਾਵ ਵਾਲੇ ਬੱਗ ਦੀ ਰਿਪੋਰਟਿੰਗ ਨੂੰ ਰੋਕਦਾ ਹੈ, ਤਾਂ ਪੂਰਾ ਯੂਜ਼ਰ ਬੇਸ ਜ਼ੀਰੋ-ਡੇ (zero