You wake up to an email saying your Discord account is gone. Permanently. The reason? You shared a screenshot of a sprea

ਤੁਸੀਂ ਇੱਕ ਅਜਿਹੇ ਈਮੇਲ ਨਾਲ ਜਾਗਦੇ ਹੋ ਜਿਸ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਤੁਹਾਡਾ Discord ਖਾਤਾ ਖਤਮ ਹੋ ਗਿਆ ਹੈ। ਪੱਕੇ ਤੌਰ 'ਤੇ। ਕਾਰਨ? ਤੁਸੀਂ ਇੱਕ spreadsheet ਦਾ ਸਕ੍ਰੀਨਸ਼ੌਟ ਸਾਂਝਾ ਕੀਤਾ ਸੀ, ਸ਼ਤਰੰਜ ਦੇ ਬੋਰਡ (chessboard) ਦੀ ਤਸਵੀਰ ਪੋਸਟ ਕੀਤੀ ਸੀ, ਜਾਂ ਟ੍ਰਾਂਸਪੇਰੈਂਟ ਬੈਕਗ੍ਰਾਊਂਡ ਵਾਲੀ ਕੋਈ ਫਾਈਲ ਅਪਲੋਡ ਕੀਤੀ ਸੀ। ਮਈ ਤੋਂ ਹੁਣ ਤੱਕ 8,000 ਤੋਂ ਵੱਧ ਲੋਕਾਂ ਲਈ, ਇਹ ਕੋਈ ਡਰਾਉਣਾ ਸੁਪਨਾ ਨਹੀਂ ਬਲਕਿ ਇੱਕ ਅਸਲੀ ਸੱਚਾਈ ਸੀ। Discord ਨੇ ਹੁਣ ਉਸ ਗੱਲ ਦੀ ਪੁਸ਼ਟੀ ਕਰ ਦਿੱਤੀ ਹੈ ਜਿਸਦਾ ਪ੍ਰਭਾਵਿਤ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸ਼ੱਕ ਸੀ: ਪਲੇਟਫਾਰਮ ਦੇ ਆਟੋਮੇਟਿਡ ਸੁਰੱਖਿਆ ਸਿਸਟਮ ਵਿੱਚ ਇੱਕ ਗੰਭੀਰ ਬੱਗ (bug) ਬਿਲਕੁਲ ਨਿਰਦੋਸ਼ ਤਸਵੀਰਾਂ ਨੂੰ ਗੈਰ-ਕਾਨੂੰਨੀ ਸਮੱਗਰੀ ਵਜੋਂ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਪਛਾਣ ਰਿਹਾ ਸੀ, ਅਤੇ ਫਿਰ ਉਹਨਾਂ ਲੋਕਾਂ ਨੂੰ ਪੱਕੇ ਤੌਰ 'ਤੇ ਬੈਨ ਕਰ ਰਿਹਾ ਸੀ ਜਿਨ੍ਹਾਂ ਨੇ ਉਹਨਾਂ ਨੂੰ ਅਪਲੋਡ ਕੀਤਾ ਸੀ।

ਬੱਗ ਅਤੇ ਗੁੰਮ ਹੋਇਆ ਮਨੁੱਖੀ ਨਿਰੀਖਣ

ਵੱਡੇ ਪੱਧਰ 'ਤੇ Discord ਦੀ ਸਮੱਗਰੀ ਦੀ ਨਿਗਰਾਨੀ (content moderation) ਅਪਲੋਡ ਕੀਤੀਆਂ ਗਈਆਂ ਤਸਵੀਰਾਂ ਦਾ ਜਾਣੇ-ਪਛਾਣੇ ਗਏ ਨੁਕਸਾਨਦੇਹ ਮਟੀਰੀਅਲ ਦੇ ਡੇਟਾਬੇਸ ਨਾਲ ਮਿਲਾਪ ਕਰਨ ਲਈ ਆਟੋਮੇਟਿਡ ਸਕੈਨਿੰਗ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ। ਆਮ ਹਾਲਤਾਂ ਵਿੱਚ, ਜਦੋਂ ਸਿਸਟਮ ਕਿਸੇ ਸੰਭਾਵਿਤ ਮੇਲ (match) ਦਾ ਪਤਾ ਲਗਾਉਂਦਾ ਹੈ, ਤਾਂ ਕੋਈ ਵੀ ਸਖ਼ਤ ਕਾਰਵਾਈ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇਹ ਇੱਕ ਮਨੁੱਖੀ ਮੋਡਰੇਟਰ (human moderator) ਦੁਆਰਾ ਸਮੀਖਿਆ ਕਰਨ ਲਈ ਫਲੈਗ (flag) ਉਠਾਉਂਦਾ ਹੈ। ਉਹ ਮਨੁੱਖੀ ਚੈੱਕਪੁਆਇੰਟ ਇਸੇ ਲਈ ਮੌਜੂਦ ਹੈ ਕਿਉਂਕਿ ਆਟੋਮੇਟਿਡ ਸਿਸਟਮ ਗਲਤੀਆਂ ਕਰਦੇ ਹਨ। ਸੰਦਰਭ (Context) ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਇੱਕ ਮਸ਼ੀਨ ਕਿਸੇ ਦੁਸ਼ਮਾਨਾਣਾ ਤਸਵੀਰ ਅਤੇ ਇੱਕ ਨਿਰਦੋਸ਼ ਫਾਈਲ ਵਿਚਕਾਰ ਅੰਤਰ ਨਹੀਂ ਕਰ ਸਕਦੀ ਜਿਸ ਵਿੱਚ ਸਿਰਫ਼ ਉਪਰਵੱਤੀ ਵਿਜ਼ੂਅਲ ਸਮਾਨਤਾਵਾਂ ਹੋਣ।

ਹਾਲਾਂਕਿ, ਸਿਸਟਮ ਦੇ ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਇੱਕ ਗੰਭੀਰ ਖਾਮੀ ਨੇ ਉਸ ਲੜੀ ਨੂੰ ਤੋੜ ਦਿੱਤਾ। ਫਲੈਗ ਕੀਤੇ ਗਏ ਕੰਟੈਂਟ ਨੂੰ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਲਈ ਕਤਾਰ ਵਿੱਚ ਰੱਖਣ ਦੀ ਬਜਾਏ, ਇਸ ਬੱਗ ਨੇ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਪੱਕੇ ਖਾਤੇ ਦੇ ਬੈਨ ਤੱਕ ਪਹੁੰਚਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ। ਦੋ ਮਹੀਨਿਆਂ ਤੋਂ ਵੱਧ ਸਮੇਂ ਤੱਕ, ਇਹ ਗਲਤੀ ਸਰਗਰਮ ਰਹੀ, ਜਿਸ ਨਾਲ 8,000 ਤੋਂ ਵੱਧ ਖਾਤੇ ਪ੍ਰਭਾਵਿਤ ਹੋਏ। ਸਮੱਸਿਆ ਇੰਨੀ ਵਧ ਗਈ ਕਿ Discord ਦੀ ਇੰਜੀਨੀਅਰਿੰਗ ਟੀਮ ਦੁਆਰਾ ਅੰਤ ਵਿੱਚ ਸਮੱਸਿਆ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਪੈਚ (patch) ਲਾਗੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਹੀ ਵੀਕੈਂਡ ਵਿੱਚ ਹੋਰ 200 ਗਲਤ ਬੈਨ ਹੋ ਗਏ। ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਉਹ ਹੁਣ ਸਾਰੇ ਪ੍ਰਭਾਵਿਤ ਖਾਤਿਆਂ ਨੂੰ ਬਹਾਲ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ 'ਤੇ ਕੰਮ ਕਰ ਰਹੀ ਹੈ, ਹਾਲਾਂਕਿ ਕਈ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਭਰੋਸੇ ਨੂੰ ਪਹੁੰਚ到的 ਨੁਕਸਾਨ ਪਹਿਲਾਂ ਹੀ ਹੋ ਚੁੱਕਾ ਹੈ।

ਇੱਥੇ ਕੰਮ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਸਮਝਣਾ ਜ਼ਰੂਰੀ ਹੈ। ਇਹ ਅਜਿਹਾ ਮਾਮਲਾ ਨਹੀਂ ਸੀ ਕਿ AI ਨੇ ਸਿਰਫ਼ ਇੱਕ ਗਲਤ ਅੰਦਾਜ਼ਾ ਲਗਾਇਆ ਅਤੇ ਇੱਕ ਮਨੁੱਖ ਉਸ ਨਾਲ ਸਹਿਮਤ ਹੋ ਗਿਆ। 'Human-in-the-loop' ਪ੍ਰੋਟੋਕੋਲ, ਜੋ ਅੰਤਿਮ ਜਾਂਚ (sanity check) ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ, ਤਕਨੀਕੀ ਗਲਤੀ ਕਾਰਨ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬਾਈਪਾਸ ਹੋ ਗਿਆ ਸੀ। ਉਹ ਅੰਤਰ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਪਲੇਟਫਾਰਮ ਅਕਸਰ ਉਹਨਾਂ ਮਨੁੱਖੀ ਸਮੀਖਿਆਕਾਰਾਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਕੇ ਹਮਲਾਵਰ ਆਟੋਮੇਸ਼ਨ ਦਾ ਬਚਾਅ ਕਰਦੇ ਹਨ ਜੋ ਕਥਿਤ ਤੌਰ 'ਤੇ ਅਸਾਧਾਰਨ ਮਾਮਲਿਆਂ (edge cases) ਨੂੰ ਫੜ ਲੈਂਦੇ ਹਨ। ਇਹ ਘਟਨਾ ਸਾਬਤ ਕਰਦੀ ਹੈ ਕਿ ਉਹ ਸੁਰੱਖਿਆ ਉਪਾਅ ਉਨੇ ਹੀ ਭਰੋਸੇਯੋਗ ਹਨ ਜਿੰਨਾ ਉਹ ਕੋਡ ਜੋ ਉਹਨਾਂ ਨੂੰ ਲਾਗੂ ਕਰਦਾ ਹੈ।

ਗਰਿੱਡਸ ਨੇ ਮਸ਼ੀਨ ਨੂੰ ਕਿਉਂ ਉਲਝਾਇਆ

ਗਲਤ ਬੈਨਾਂ ਵਿੱਚੋਂ, ਇੱਕ ਅਜੀਬ ਪੈਟਰਨ ਸਾਹਮਣੇ ਆਇਆ। X ਅਤੇ Reddit 'ਤੇ ਉਪਭੋਗਤਾਵਾਂ ਨੇ ਵਾਰ-ਵਾਰ ਰਿਪੋਰਟ ਕੀਤੀ ਕਿ ਵਰਗ ਗਰਿੱਡ ਪੈਟਰਨਾਂ (square grid patterns) ਵਾਲੀਆਂ ਤਸਵੀਰਾਂ ਕਾਰਵਾਈ ਨੂੰ ਟਰਿਗਰ ਕਰ ਰਹੀਆਂ ਸਨ। ਸ਼ਤਰੰਜ ਦੇ ਬੋਰਡ। Spreadsheets। ਗੇਮ ਟੈਕਸਟਚਰ। ਯੂਜ਼ਰ ਇੰਟਰਫੇਸ ਐਲੀਮੈਂਟਸ। ਇਹ ਕੋਈ ਯਦਛਿੱਕ ਗਲਤੀਆਂ ਨਹੀਂ ਸਨ ਬਲਕਿ ਇੱਕ ਅਜਿਹੇ ਮਾਡਲ ਦਾ ਲੱਛਣ ਸਨ ਜੋ ਇੱਕ ਖਾਸ ਬਚਾਅ ਤਕਨੀਕ (evasion tactic) ਲਈ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸੁਚੇਤ ਰੱਖਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਸੀ।

ਗੈਰ-ਕਾਨੂੰਨੀ ਸਮੱਗਰੀ ਦਾ ਵਪਾਰ ਕਰਨ ਵਾਲੇ ਲੋਕ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਆਟੋਮੇਟਿਡ ਡਿਟੈਕਸ਼ਨ ਸਿਸਟਮਾਂ ਨੂੰ ਧੋਖਾ ਦੇਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਆ ਰਹੇ ਹਨ। ਇੱਕ ਆਮ ਤਰੀਕੇ ਵਿੱਚ ਦੁਰਭਾਗਜਨਕ ਤਸਵੀਰਾਂ ਦੇ ਉੱਪਰ ਵਿਜ਼ੂਅਲ ਓਵਰਲੇਅ, ਨੋਇਜ਼, ਜਾਂ ਗਰਿੱਡ ਵਰਗੇ ਟੈਕਸਟਚਰ ਲਗਾਉਣਾ ਸ਼ਾਮਲ ਹੈ ਤਾਂ ਜੋ ਐਲਗੋਰਿਦਮ ਦੇ ਦੇਖਣ ਦੇ ਤਰੀਕੇ ਨੂੰ ਵਿਗਾੜਿਆ ਜਾ ਸਕੇ। ਜਵਾਬ ਵਿੱਚ, ਪਲੇਟਫਾਰਮ ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ ਇਹਨਾਂ ਧੋਖਾ ਦੇਣ ਵਾਲੀਆਂ ਤਕਨੀਕਾਂ ਨੂੰ ਫੜਨ ਲਈ ਆਪਣੇ ਮਾਡਲਾਂ ਨੂੰ ਸਖ਼ਤ ਕਰਦੇ ਹਨ। Discord ਨੇ ਸ਼ਾਇਦ ਇਹੀ ਕੀਤਾ ਹੈ, ਪਰ ਸੰਵੇਦਨਸ਼ੀਲਤਾ ਦੀ ਸੀਮਾ (sensitivity threshold) ਗਲਤ ਜਗ੍ਹਾ 'ਤੇ ਰਹਿ ਗਈ। ਸਿਸਟਮ ਨੇ ਆਮ ਗਰਿੱਡ ਪੈਟਰਨਾਂ ਨੂੰ ਗੈਰ-ਕਾਨੂੰਨੀ ਸਮੱਗਰੀ ਦੇ ਸੰਭਾਵੀ ਭੇਸ ਵਜੋਂ ਦੇਖਣਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ।

ਨਤੀਜਾ ਇੱਕ ਕਿਸਮ ਦਾ ਡਿਜੀਟਲ ਆਟੋਇਮਿਊਨ ਰਿਸਪਾਂਸ (autoimmune response) ਸੀ। ਪਲੇਟਫਾਰਮ ਦੇ ਰੱਖਿਆ ਪ੍ਰਬੰਧ ਇੰਨੇ ਹਮਲਾਵਰ ਹੋ ਗਏ ਕਿ ਉਹ ਆਮ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਜਾਇਜ਼ ਸਮੱਗਰੀ 'ਤੇ ਹਮਲਾ ਕਰਨ ਲੱਗ ਪਏ। ਸ਼ਤਰੰਜ ਦਾ ਬੋਰਡ ਕੋਈ ਬਚਾਅ ਤਕਨੀਕ ਨਹੀਂ ਹੈ। ਇੱਕ ਸਾਫ਼-ਸੁਥਰੀ ਤਰੀਕੇ ਨਾਲ ਸੰਗਠਿਤ Excel ਸਕ੍ਰੀਨਸ਼ੌਟ ਕੋਈ ਭੇਸਾ ਰੂਪੀ ਖਤਰਾ ਨਹੀਂ ਹੈ। ਫਿਰ ਵੀ, ਇੱਕ ਜ਼ਿਆਦਾ ਟਿਊਨ ਕੀਤੇ ਗਏ ਮੈਚਿੰਗ ਐਲਗੋਰਿਦਮ ਲਈ, ਵਿਜ਼ੂਅਲ ਢਾਂਚਾ ਇੰਨਾ ਸਮਾਨ ਲੱਗਿਆ ਕਿ ਇੱਕ ਤੁਰੰਤ, ਅਟੱਲ ਬੈਨ ਲਗਾ ਦਿੱਤਾ ਗਿਆ। ਇਹ ਇਸ ਗੱਲ ਦੀ ਇੱਕ ਸਪੱਸ਼ਟ ਉਦਾਹਰਣ ਹੈ ਕਿ ਮੋਡਰੇਟਰਾਂ ਅਤੇ ਬੁਰੇ ਕਾਰਜਕਰ

ਇਹ ਘਟਨਾ ਪਲੇਟਫਾਰਮ ਦੀ ਜਵਾਬਦੇਹੀ ਦੇ ਇੱਕ ਵਿਆਪਕ ਸੰਦਰਭ ਵਿੱਚ ਵੀ ਆਉਂਦੀ ਹੈ। Meta ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਕਾਰਨ ਖਾਤੇ ਮੁਅੱਤਲ ਕੀਤੇ ਜਾਣ ਦੇ ਮਾਮਲਿਆਂ ਵਿੱਚ ਲਗਾਤਾਰ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ ਹੈ, ਜਿੱਥੇ ਇਸ ਦੇ ਆਪਣੇ Oversight Board ਨੇ ਇਸ ਗੱਲ ਲਈ ਵਧੇਰੇ ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਮੰਗ ਕੀਤੀ ਹੈ ਕਿ ਸਵੈਚਲਿਤ (automated) ਫੈਸਲੇ ਕਿਵੇਂ ਲਏ ਜਾਂਦੇ ਹਨ ਅਤੇ ਉਹਨਾਂ ਵਿਰੁੱਧ ਅਪੀਲ ਕਿਵੇਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ। Discord ਦੀ ਅਸਫਲਤਾ ਉਸ ਵਿਵਾਦ ਨੂੰ ਇੱਕ ਅਹਿਮ ਤਰੀਕੇ ਨਾਲ ਦਰਸਾਉਂਦੀ ਹੈ: ਜਦੋਂ ਆਟੋਮੇਸ਼ਨ ਗਲਤ ਹੋ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਉਪਭੋਗਤਾ ਅਕਸਰ ਇੱਕ ਖਾਲੀਪਣ ਵਿੱਚ ਚੀਕਣ ਵਾਂਗ ਮਹਿਸੂਸ ਕਰਦੇ ਹਨ, ਜਿੱਥੇ ਉਹ ਅਜਿਹੇ ਫਾਰਮਾਂ ਰਾਹੀਂ ਅਪੀਲ ਕਰਦੇ ਹਨ ਜੋ ਸਿਰਫ਼ ਸਵੈਚਲਿਤ ਜਵਾਬ ਦਿੰਦੇ ਹਨ, ਅਤੇ ਕਿਸੇ ਅਜਿਹੇ ਇਨਸਾਨ ਤੱਕ ਪਹੁੰਚਣ ਦਾ ਕੋਈ ਸਪੱਸ਼ਟ ਰਸਤਾ ਨਹੀਂ ਹੁੰਦਾ ਜੋ ਅਸਲ ਵਿੱਚ ਇਸ ਗਲਤੀ ਨੂੰ ਸੁਧਾਰ ਸਕੇ।

ਡਿਵੈਲਪਰਾਂ ਅਤੇ AI ਖੋਜਕਰਤਾਵਾਂ ਲਈ, ਇਸ ਤੋਂ ਮਿਲਣ ਵਾਲਾ ਸਬਕ ਆਰਕੀਟੈਕਚਰਲ (architectural) ਹੈ। "Human-in-the-loop" ਸਿਰਫ਼ ਕਿਸੇ ਬਲੌਗ ਪੋਸਟ ਵਿੱਚ ਕੀਤੀ ਗਈ ਨੀਤੀ ਦੀ ਵਾਅਦਾ ਨਹੀਂ ਹੋ ਸਕਦਾ। ਇਹ ਇੱਕ ਸਖ਼ਤ ਤਕਨੀਕੀ ਸੀਮਾ (technical constraint) ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ। ਸਿਸਟਮ ਇਨਸਾਨੀ ਮਨਜ਼ੂਰੀ ਤੋਂ ਬਿਨਾਂ ਪੱਕਾ ਬੈਨ (permanent ban) ਲਗਾਉਣ ਦੇ ਯੋਗ ਹੀ ਨਹੀਂ ਹੋਣਾ ਚਾਹੀਦਾ। ਜੇਕਰ ਕੋਡ ਕਿਸੇ ਬੱਗ (bug) ਕਾਰਨ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਉਸ ਚੈੱਕਪੁਆਇੰਟ ਨੂੰ ਪਾਰ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸੁਰੱਖਿਆ ਕਦੇ ਵੀ ਅਸਲ ਵਿੱਚ ਮੌਜੂਦ ਨਹੀਂ ਸੀ। ਜਿਵੇਂ-ਜਿਵੇਂ ਬਦਲਦੇ ਖਤਰਿਆਂ ਨਾਲ ਤਾਲਮੇਲ ਬਣਾਉਣ ਲਈ ਡਿਟੈਕਸ਼ਨ ਮਾਡਲ ਵਧੇਰੇ ਹਮਲਾਵਰ ਹੋ ਰਹੇ ਹਨ, ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਅਜਿਹੇ ਗਵਰਨਰ ਮਕੈਨਿਜ਼ਮ (governor mechanisms) ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੈ ਜੋ ਡਿਟੈਕਸ਼ਨ ਲੇਅਰਾਂ ਵਾਂਗ ਹੀ ਮਜ਼ਬੂਤ ਹੋਣ।

ਕੀ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ

ਇੱਥੇ ਪਲੇਟਫਾਰਮਾਂ ਅਤੇ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਲੋਕਾਂ, ਦੋਵਾਂ ਲਈ ਵਿਵਹਾਰਕ ਪ੍ਰਭਾਵ ਹਨ।

ਪਲੇਟਫਾਰਮਾਂ ਲਈ, ਮੋਡਰੇਸ਼ਨ ਪਾਈਪਲਾਈਨਾਂ ਵਿੱਚ ਅਜਿਹੇ ਫੇਲ-ਸੇਫ (fail-safes) ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ ਜੋ ਖਾਤੇ ਦੇ ਬੈਨ ਨੂੰ ਉਸ ਦੀ ਗੰਭੀਰਤਾ ਅਨੁਸਾਰ ਲੈਂਦੇ ਹੋਣ। ਪੱਕੇ ਤੌਰ 'ਤੇ ਹਟਾਉਣ ਲਈ ਕਈ ਸੁਤੰਤਰ ਸੰਕੇਤਾਂ ਜਾਂ ਇੱਕ ਲਾਜ਼ਮੀ ਮਨੁੱਖੀ ਮਨਜ਼ੂਰੀ ਦੀ ਲੋੜ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ ਜਿਸ ਨੂੰ ਸਿਸਟਮ ਖ਼ੁਦ ਨਹੀਂ ਬਦਲ ਸਕੇ। ਪਾਰਦਰਸ਼ਤਾ ਰਿਪੋਰਟਾਂ ਵਿੱਚ ਨਾ ਸਿਰਫ਼ ਇਹ ਸ਼ਾਮਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕਿੰਨਾ ਕੰਟੈਂਟ ਹਟਾਇਆ ਗਿਆ ਸੀ, ਸਗੋਂ ਇਹ ਵੀ ਕਿ ਤਕਨੀਕੀ ਗਲਤੀਆਂ ਕਾਰਨ ਕਿੰਨੇ ਲਾਗੂ ਕੀਤੇ ਗਏ ਕਾਰਵਾਈਆਂ ਨੂੰ ਵਾਪਸ ਲਿਆ ਗਿਆ ਸੀ। ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇਹ ਜਾਣਨ ਦਾ ਹੱਕ ਹੈ ਕਿ ਕਦੋਂ ਮਸ਼ੀਨ ਨੇ ਕੋਈ ਸਿਸਟਮਿਕ ਗਲਤੀ ਕੀਤੀ ਹੈ, ਨਾ ਕਿ ਸਿਰਫ਼ ਚੁੱਪਚਾਪ ਸਭ ਕੁਝ ਪਹਿਲਾਂ ਵਾਂਗ ਕਰ ਦਿੱਤਾ ਜਾਵੇ।

ਉਪਭੋਗਤਾਵਾਂ ਲਈ, ਇਹ ਘਟਨਾ ਇੱਕ ਯਾਦ ਦਿਵਾਉਂਦੀ ਹੈ ਕਿ ਕੋਈ ਵੀ ਕੇਂਦਰੀਕ੍ਰਿਤ ਪਲੇਟਫਾਰਮ ਤੁਹਾਡੀ ਕਿਸੇ ਗਲਤੀ ਤੋਂ ਬਿਨਾਂ ਤੁਹਾਨੂੰ ਬਾਹਰ ਕੱਢ ਸਕਦਾ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਕੋਈ ਕਮਿਊਨਿਟੀ ਚਲਾਉਂਦੇ ਹੋ ਜਾਂ ਪੇਸ਼ੇਵਰ ਤਾਲਮੇਲ ਲਈ Discord 'ਤੇ ਨਿਰਭਰ ਹੋ, ਤਾਂ ਜ਼ਰੂਰੀ ਸੰਪਰਕਾਂ ਅਤੇ ਡੇਟਾ ਦੇ ਬੈਕਅੱਪ ਪਲੇਟਫਾਰਮ ਤੋਂ ਬਾਹਰ ਰੱਖੋ। ਅਪੀਲ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਉਹਨਾਂ ਦੀ ਲੋੜ ਪੈਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਸਮਝ ਲਓ। ਅਤੇ ਜਦੋਂ ਪਲੇਟਫਾਰਮ ਨਵੇਂ AI-ਸੰਚਾਲਿਤ ਸੁਰੱਖਿਆ ਟੂਲਾਂ ਦੀ ਘੋਸ਼ਣਾ ਕਰਦੇ ਹਨ, ਤਾਂ ਸ਼ੱਕ ਕਰਨਾ ਜਾਇਜ਼ ਹੈ। ਸਿਰਫ਼ ਇਹ ਨਾ ਪੁੱਛੋ ਕਿ ਡਿਟੈਕਸ਼ਨ ਕਿੰਨੀ ਸਹੀ ਹੈ, ਸਗੋਂ ਇਹ ਵੀ ਪੁੱਛੋ ਕਿ ਕਿਹੜੀਆਂ ਸੰਰਚਨਾਤਮਕ ਰੁਕਾਵਟਾਂ ਉਸ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਆਪਣੇ ਆਪ ਕਾਰਵਾਈ ਕਰਨ ਤੋਂ ਰੋਕਦੀਆਂ ਹਨ।

Discord ਨੇ ਇਸ ਖਾਸ ਬੱਗ ਨੂੰ ਠੀਕ ਕਰ ਦਿੱਤਾ ਹੈ ਅਤੇ ਖਾਤੇ ਵਾਪਸ ਲਿਆ ਰਿਹਾ ਹੈ, ਪਰ ਮੂਲ ਤਣਾਅ ਅਜੇ ਵੀ ਅਣਸੁਲਝਿਆ ਹੈ। ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਅਪਲੋਡ ਦੀ ਰਫ਼ਤਾਰ 'ਤੇ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਨੂੰ ਰੋਕਣ ਦਾ ਜਾਇਜ਼ ਦਬਾਅ ਹੈ, ਅਤੇ ਇਹ ਦਬਾਅ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਮੋਡਰੇਸ਼ਨ ਸਟੈਕ ਵਿੱਚ ਹੋਰ ਅੱਗੇ ਧੱਕੇਗਾ। ਸਵਾਲ ਇਹ ਹੈ ਕਿ ਕੀ ਉਦਯੋਗ ਅਜਿਹੇ ਸਿਸਟਮ ਬਣਾ ਸਕਦਾ ਹੈ ਜੋ ਰੋਜ਼ਾਨਾ ਸਾਂਝੀ ਕੀਤੀ ਜਾਣ ਵਾਲੀ ਆਮ ਸਮੱਗਰੀ ਦੇ ਵਿਰੁੱਧ ਕਮਜ਼ੋਰ ਹੋਏ ਬਿਨਾਂ ਦੁਰਵਰਤੋਂ ਦੇ ਵਿਰੁੱਧ ਸਖ਼ਤ ਹੋਣ। ਜਦੋਂ ਤੱਕ ਤਕਨੀਕੀ ਆਰਕੀਟੈਕਚਰ ਇਹ ਗਾਰੰਟੀ ਨਹੀਂ ਦਿੰਦਾ ਕਿ ਅੰਤਿਮ ਫੈਸਲਾ ਹਮੇਸ਼ਾ ਇੱਕ ਇਨਸਾਨ ਦੇ ਹੱਥ ਵਿੱਚ ਹੋਵੇਗਾ, ਉਦੋਂ ਤੱਕ ਮਾਡਲ ਟਿਊਨਿੰਗ ਦੀ ਕੋਈ ਵੀ ਮਾਤਰਾ ਅਗਲੀ ਬੈਨ ਲਹਿਰ ਨੂੰ ਨਹੀਂ ਰੋਕ ਸਕੇਗੀ।