ನಿಮ್ಮ Discord ಖಾತೆಯು ಹೋಗಿದೆ ಎಂದು ಹೇಳುವ ಇಮೇಲ್ನೊಂದಿಗೆ ನೀವು ಎಚ್ಚರಗೊಳ್ಳುತ್ತೀರಿ. ಶಾಶ್ವತವಾಗಿ. ಕಾರಣವೇನು? ನೀವು ಒಂದು spreadsheet ನ ಸ್ಕ್ರೀನ್ಶಾಟ್ ಅನ್ನು ಹಂಚಿಕೊಂಡಿದ್ದೀರಿ, ಚೆಸ್ ಬೋರ್ಡ್ನ ಚಿತ್ರವನ್ನು ಪೋಸ್ಟ್ ಮಾಡಿದ್ದೀರಿ ಅಥವಾ ಪಾರದರ್ಶಕ ಹಿನ್ನೆಲೆಯಿರುವ (transparent background) ಒಂದು ಅಸೆಟ್ ಅನ್ನು ಅಪ್ಲೋಡ್ ಮಾಡಿದ್ದೀರಿ. ಮೇ ತಿಂಗಳಿನಿಂದ 8,000 ಕ್ಕೂ ಹೆಚ್ಚು ಜನರಿಗೆ, ಇದು ಕೇವಲ ಒಂದು ಕೆಟ್ಟ ಕನಸಲ್ಲ, ಬದಲಾಗಿ ಅವರು ಎದುರಿಸಿದ ಕಹಿ ವಾಸ್ತವ. ಬಳಕೆದಾರರು ಅನುಮಾನಿಸುತ್ತಿದ್ದ ವಿಷಯವನ್ನು Discord ಈಗ ಖಚಿತಪಡಿಸಿದೆ: ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ಸ್ವಯಂಚಾಲಿತ ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆಯಲ್ಲಿನ (automated safety systems) ತೀವ್ರವಾದ ದೋಷವು (bug) ಸಂಪೂರ್ಣವಾಗಿ ಹಾನಿಕಾರಕವಲ್ಲದ ಚಿತ್ರಗಳನ್ನು ಅಕ್ರಮ ವಿಷಯವೆಂದು ತಪ್ಪಾಗಿ ಗುರುತಿಸುತ್ತಿತ್ತು ಮತ್ತು ಅವುಗಳನ್ನು ಅಪ್ಲೋಡ್ ಮಾಡಿದ ಜನರನ್ನು ಶಾಶ್ವತವಾಗಿ ನಿಷೇಧಿಸುತ್ತಿತ್ತು (ban).
ದೋಷ ಮತ್ತು ಮನುಷ್ಯರ ಮೇಲ್ವಿಚಾರಣೆಯ ಕೊರತೆ
ದೊಡ್ಡ ಪ್ರಮಾಣದ Discord ಕಂಟೆಂಟ್ ಮಾಡರೇಶನ್ (content moderation), ಅಪ್ಲೋಡ್ ಮಾಡಿದ ಚಿತ್ರಗಳನ್ನು 알려ಮಾಡಲಾದ ಹಾನಿಕಾರಕ ವಸ್ತುಗಳ ಡೇಟಾಬೇಸ್ಗಳೊಂದಿಗೆ ಹೋಲಿಸಲು ಸ್ವಯಂಚಾಲಿತ ಸ್ಕ್ಯಾನಿಂಗ್ ಅನ್ನು ಅವಲಂಬಿಸಿದೆ. ಸಾಮಾನ್ಯ ಪರಿಸ್ಥಿತಿಯಲ್ಲಿ, ವ್ಯವಸ್ಥೆಯು ಸಂಭಾವ್ಯ ಹೊಂದಾಣಿಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿದಾಗ, ಯಾವುದೇ ಗಂಭೀರ ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳುವ ಮೊದಲು ಮಾನವ ಮಾಡರೇಟರ್ (human moderator) ಪರಿಶೀಲಿಸಲು ಅದು ಎಚ್ಚರಿಕೆ ನೀಡುತ್ತದೆ. ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಗಳು ತಪ್ಪುಗಳನ್ನು ಮಾಡುವುದರಿಂದಲೇ ಆ ಮಾನವ ಪರಿಶೀಲನಾ ಕೇಂದ್ರ ಅಸ್ತಿತ್ವದಲ್ಲಿದೆ. ಸಂದರ್ಭವು ಮುಖ್ಯವಾಗಿದೆ. ಒಂದು ದುರುದ್ದೇಶಪೂರಿತ ಚಿತ್ರ ಮತ್ತು ಮೇಲ್ನೋಟಕ್ಕೆ ದೃಶ್ಯ ಸಾಮ್ಯತೆಗಳನ್ನು ಹೊಂದಿರುವ ಮುಗ್ಧ ಫೈಲ್ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಯಂತ್ರವು ಗುರುತಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಆದಾಗ್ಯೂ, ವ್ಯವಸ್ಥೆಯ ಆರ್ಕಿಟೆಕ್ಚರ್ನಲ್ಲಿನ (architecture) ಒಂದು ನಿರ್ಣಾಯಕ ದೋಷವು ಆ ಸರಪಳಿಯನ್ನು ಮುರಿದುಹಾಕಿತು. ಫ್ಲ್ಯಾಗ್ ಮಾಡಲಾದ ಕಂಟೆಂಟ್ ಅನ್ನು ಮಾನವ ಪರಿಶೀಲನೆಗಾಗಿ ಕಾಯುವಂತೆ ಮಾಡುವ ಬದಲು, ಈ ದೋಷವು ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಯು ನೇರವಾಗಿ ಖಾತೆಯನ್ನು ಶಾಶ್ವತವಾಗಿ ನಿಷೇಧಿಸುವಂತೆ ಮಾಡಿತು. ಎರಡು ತಿಂಗಳಿಗೂ ಹೆಚ್ಚು ಕಾಲ ಈ ದೋಷವು ಸಕ್ರಿಯವಾಗಿತ್ತು ಮತ್ತು 8,000 ಕ್ಕೂ ಹೆಚ್ಚು ಖಾತೆಗಳ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರಿತು. Discord ನ ಇಂಜಿನಿಯರಿಂಗ್ ತಂಡವು ಅಂತಿಮವಾಗಿ ಸಮಸ್ಯೆಯನ್ನು ಗುರುತಿಸಿ ಪ್ಯಾಚ್ (patch) ಅಳವಡಿಸುವ ಮೊದಲು, ಕೇವಲ ಒಂದು ವಾರಾಂತ್ಯದಲ್ಲಿ ಮತ್ತೆ 200 ತಪ್ಪು ನಿಷೇಧಗಳು ಸಂಭವಿಸುವ ಮಟ್ಟಕ್ಕೆ ಸಮಸ್ಯೆ ತೀವ್ರಗೊಂಡಿತ್ತು. ಕಂಪನಿಯು ಈಗ ಎಲ್ಲಾ ಬಾಧಿತ ಖಾತೆಗಳನ್ನು ಮರುಸ್ಥಾಪಿಸುವ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಕೆಲಸ ಮಾಡುತ್ತಿದೆ ಎಂದು ಹೇಳಿದೆ, ಆದರೆ ಅನೇಕ ಬಳಕೆದಾರರಿಗೆ ನಂಬಿಕೆಯ ಮೇಲೆ ಈಗಾಗಲೇ ಹಾನಿಯಾಗಿದೆ.
ಇಲ್ಲಿನ ಕಾರ್ಯವಿಧಾನವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಮುಖ್ಯವಾಗಿದೆ. ಇದು ಕೇವಲ AI ಒಂದು ತಪ್ಪು ಊಹೆಯನ್ನು ಮಾಡಿದ್ದು ಮತ್ತು ಮನುಷ್ಯ ಅದಕ್ಕೆ ಒಪ್ಪಿಕೊಂಡ ಸಂದರ್ಭವಲ್ಲ. ಅಂತಿಮ ಪರಿಶೀಲನೆಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ 'human-in-the-loop' ಪ್ರೋಟೋಕಾಲ್ ಅನ್ನು ತಾಂತ್ರಿಕ ದೋಷದಿಂದಾಗಿ ಸಂಪೂರ್ಣವಾಗಿ ನಿರ್ಲಕ್ಷಿಸಲಾಯಿತು. ಆ ವ್ಯತ್ಯಾಸವು ಮುಖ್ಯವಾಗಿದೆ. ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಹೆಚ್ಚಾಗಿ ತಪ್ಪುಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವ ಮಾನವ ವಿಮರ್ಶಕರನ್ನು ಉಲ್ಲೇಖಿಸಿ ತಮ್ಮ ಕಠಿಣ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಯನ್ನು ಸಮರ್ಥಿಸಿಕೊಳ್ಳುತ್ತವೆ. ಆ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು ಅವುಗಳನ್ನು ಜಾರಿಗೆ ತರುವ ಕೋಡ್ ಎಷ್ಟು ವಿಶ್ವಾಸಾರ್ಹವೋ ಅಷ್ಟೇ ವಿಶ್ವಾಸಾರ್ಹವಾಗಿರುತ್ತವೆ ಎಂಬುದನ್ನು ಈ ಘಟನೆಯು ಸಾಬೀತುಪಡಿಸುತ್ತದೆ.
ಗ್ರಿಡ್ಗಳು ಯಂತ್ರವನ್ನು ಏಕೆ ಗೊಂದಲಕ್ಕೀಡುಮಾಡಿದವು
ತಪ್ಪು ನಿಷೇಧಗಳ ನಡುವೆ ಒಂದು ವಿಚಿತ್ರ ಮಾದರಿ ಕಂಡುಬಂದಿತು. ಚೌಕಾಕಾರದ ಗ್ರಿಡ್ ಮಾದರಿಗಳನ್ನು (square grid patterns) ಹೊಂದಿರುವ ಚಿತ್ರಗಳು ಕಠಿಣ ಕ್ರಮಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತಿವೆ ಎಂದು X ಮತ್ತು Reddit ಬಳಕೆದಾರರು ಪದೇ ಪದೇ ವರದಿ ಮಾಡಿದರು. ಚೆಸ್ ಬೋರ್ಡ್ಗಳು. Spreadsheetಗಳು. ಗೇಮ್ ಟೆಕ್ಸ್ಚರ್ಗಳು (Game textures). ಯೂಸರ್ ಇಂಟರ್ಫೇಸ್ ಅಂಶಗಳು. ಇವುಗಳು ಕೇವಲ ಯಾದೃಚ್ಛಿಕ ತಪ್ಪುಗಳಲ್ಲ, ಬದಲಾಗಿ ಒಂದು ನಿರ್ದಿಷ್ಟ ತಪ್ಪಿಸಿಕೊಳ್ಳುವ ತಂತ್ರವನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಅತಿಯಾಗಿ ಸಜ್ಜುಗೊಳಿಸಲಾದ ಮಾಡೆಲ್ನ ಲಕ್ಷಣವಾಗಿತ್ತು.
ಅಕ್ರಮ ವಿಷಯಗಳಲ್ಲಿ ವ್ಯಾಪಾರ ಮಾಡುವವರು ಸ್ವಯಂಚಾಲಿತ ಪತ್ತೆಹಚ್ಚುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ವಂಚಿಸಲು ದೀರ್ಘಕಾಲದಿಂದ ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದಾರೆ. ಅಲ್ಗಾರಿದಮ್ಗಳು ಚಿತ್ರಗಳನ್ನು ನೋಡುವ ರೀತಿಯನ್ನು ಬದಲಾಯಿಸಲು, ಅಕ್ರಮ ಚಿತ್ರಗಳ ಮೇಲೆ ದೃಶ್ಯ ಓವರ್ಲೇಗಳು (visual overlays), ನಾಯ್ಸ್ (noise) ಅಥವಾ ಗ್ರಿಡ್ನಂತಹ ಟೆಕ್ಸ್ಚರ್ಗಳನ್ನು ಬಳಸುವ ಒಂದು ಸಾಮಾನ್ಯ ವಿಧಾನವಾಗಿದೆ. ಇದಕ್ಕೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ, ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಇಂತಹ ತಂತ್ರಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ತಮ್ಮ ಮಾಡೆಲ್ಗಳನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿಸುತ್ತವೆ. Discord ಕೂಡ ಅದನ್ನೇ ಮಾಡಿದೆ ಎಂದು ತೋರುತ್ತದೆ, ಆದರೆ ಅದರ ಸಂವೇದನಾ ಮಟ್ಟವು (sensitivity threshold) ತಪ್ಪಾದ ಜಾಗದಲ್ಲಿತ್ತು. ವ್ಯವಸ್ಥೆಯು ಸಾಮಾನ್ಯ ಗ್ರಿಡ್ ಮಾದರಿಗಳನ್ನು ಅಕ್ರಮ ವಿಷಯಗಳ ಮುಖವಾಡಗಳೆಂದು ಪರಿಗಣಿಸಲು ಪ್ರಾರಂಭಿಸಿತು.
ಇದರ ಪರಿಣಾಮವು ಒಂದು ರೀತಿಯ ಡಿಜಿಟಲ್ ಆಟೋಇಮ್ಯೂನ್ ಪ್ರತಿಕ್ರಿಯೆಯಂತಿತ್ತು (digital autoimmune response). ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ರಕ್ಷಣಾ ವ್ಯವಸ್ಥೆಯು ಎಷ್ಟು ಉಗ್ರವಾಗಿತ್ತೆಂದರೆ ಅದು ಸಾಮಾನ್ಯ ಬಳಕೆದಾರರ ಕಾನೂನುಬದ್ಧ ವಿಷಯಗಳ ಮೇಲೆಯೇ ದಾಳಿ ಮಾಡಲು ಪ್ರಾರಂಭಿಸಿತು. ಚೆಸ್ ಬೋರ್ಡ್ ಒಂದು ತಪ್ಪಿಸಿಕೊಳ್ಳುವ ತಂತ್ರವಲ್ಲ. ಅಚ್ಚುಕಟ್ಟಾಗಿ ಜೋಡಿಸಲಾದ Excel ಸ್ಕ್ರೀನ್ಶಾಟ್ ಒಂದು ಮರೆಮಾಚಿದ ಬೆದರಿಕೆಯಲ್ಲ. ಆದರೂ, ಅತಿಯಾಗಿ ಸಜ್ಜುಗೊಳಿಸಲಾದ ಮ್ಯಾಚಿಂಗ್ ಅಲ್ಗಾರಿದಮ್ಗೆ, ಆ ದೃಶ್ಯ ರಚನೆಯು ತಕ್ಷಣದ ಮತ್ತು ಮರುಪರಿಶೀಲಿಸಲಾಗದ ನಿಷೇಧವನ್ನು ಪ್ರಚೋದಿಸುವಷ್ಟು ಸಾಮ್ಯತೆಯನ್ನು ಹೊಂದಿತ್ತು. ಮಾಡರೇಟರ್ಗಳು ಮತ್ತು ದುಷ್ಟ ವ್ಯಕ್ತಿಗಳ ನಡುವಿನ ಈ ಪೈಪಣಿಯು, ಕ್ಯಾಲಿಬ್ರೇಶನ್ (calibration) ಸ್ವಲ್ಪ ಮಟ್ಟಿಗೆ ಅಸಮತೋಲನಗೊಂಡಾಗ ಹೇಗೆ ಅಡ್ಡಪರಿಣಾಮಗಳನ್ನು (collateral damage) ಉಂಟುಮಾಡಬಹುದು ಎಂಬುದಕ್ಕೆ ಇದು ಒಂದು ಕಟುವಾದ ಉದಾಹರಣೆಯಾಗಿದೆ.
ತಪ್ಪು ಪತ್ತೆಯ ಬೆಲೆ
ಸಾಮಾಜಿಕ ಪ್ಲಾಟ್ಫಾರ್ಮ್ನಲ್ಲಿನ ತಪ್ಪು ನಿಷೇಧವು ಕೇವಲ ಅನಾನುಕೂಲವಲ್ಲ. ಹೆಚ್ಚುತ್ತಿರುವ ಜನರಿಗೆ, Discord ಒಂದು ನಿರ್ಣಾಯಕ ಮೂಲಸೌಕರ್ಯದಂತೆ (critical infrastructure) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಅಲ್ಲಿ ಡೆವಲಪರ್ಗಳು ಸಪೋರ್ಟ್ ಸರ್ವರ್ಗಳನ್ನು ನಡೆಸುತ್ತಾರೆ. ಇಂಡಿ ಗೇಮ್ ಸ್ಟುಡಿಯೋಗಳು ತಮ್ಮ ಸಮುದಾಯಗಳು ಮತ್ತು ಬೀಟಾ ಟೆಸ್ಟಿಂಗ್ ಅನ್ನು ಅದರ ಮೂಲಕ ನಿರ್ವಹಿಸುತ್ತವೆ. ರಿಮೋಟ್ ತಂಡಗಳು ಖಾಸಗಿ ವರ್ಕ್ಸ್ಪೇಸ್ಗಳಲ್ಲಿ ಸಹಕರಿಸುತ್ತವೆ. ಗೇಮರ್ಗಳು ವರ್ಷಗಳು ಮತ್ತು ಖಂಡಗಳನ್ನು ದಾಟಿದ ಸ್ನೇಹ ಸಂಬಂಧಗಳನ್ನು ಉಳಿಸಿಕೊಳ್ಳುತ್ತಾರೆ. ಒಂದು ಖಾತೆಯನ್ನು ಕಳೆದುಕೊಳ್ಳುವುದು ಕೇವಲ ಚಾಟ್ ಇತಿಹಾಸವನ್ನು ಕಳೆದುಕೊಳ್ಳುವುದಲ್ಲ; ಇದು ವೃತ್ತಿಪರ ಸಂಬಂಧಗಳನ್ನು ಕಡಿದುಕೊಳ್ಳಬಹುದು, ಸಮುದಾಯಗಳನ್ನು ನಾಶಮಾಡಬಹುದು ಮತ್ತು Nitro ಚಂದಾದಾರಿಕೆಗಳು ಅಥವಾ ಸಂಯೋಜಿತ ಗೇಮ್ ಖರೀದಿಗಳ ಮೂಲಕ ಬಳಕೆದಾರರು ಗಮನಾರ್ಹ ಹಣ ಮತ್ತು ಸಮಯವನ್ನು ಹೂಡಿಕೆ ಮಾಡಿದ ಸೇವೆಗಳಿಂದ ಅವರನ್ನು ಹೊರಗಿಡಬಹುದು.
ಈ ಘಟನೆಯು ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಹೊಣೆಗಾರಿಕೆಯ ವಿಶಾಲ ಸಂದರ್ಭದಲ್ಲೂ ಬರುತ್ತದೆ. ವಿವರಿಸಲಾಗದ ಖಾತೆಗಳ ಅಮಾನತುಗಳ ಬಗ್ಗೆ Meta ನಿರಂತರ ಪರಿಶೀಲನೆಗೆ ಒಳಗಾಗಿದೆ, ಅದರ Oversight Board ಸ್ವತಃ ಸ್ವಯಂಚಾಲಿತ ನಿರ್ಧಾರಗಳನ್ನು ಹೇಗೆ ತೆಗೆದುಕೊಳ್ಳಲಾಗುತ್ತದೆ ಮತ್ತು ಅವುಗಳ ವಿರುದ್ಧ ಮೇಲ್ಮನವಿ ಸಲ್ಲಿಸುವುದು ಹೇಗೆ ಎಂಬುದರ ಕುರಿತು ಹೆಚ್ಚಿನ ಪಾರದರ್ಶಕತೆಗಾಗಿ ಒತ್ತಾಯಿಸುತ್ತಿದೆ. Discord ನ ವೈಫಲ್ಯವು ಆ ವಿವಾದವನ್ನು ಪ್ರಮುಖ ರೀತಿಯಲ್ಲಿ ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ: ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಯು ತಪ್ಪಾದಾಗ, ಬಳಕೆದಾರರು ಹೆಚ್ಚಾಗಿ ಶೂನ್ಯಕ್ಕೆ ಕೂಗುತ್ತಿರುವಂತಾಗುತ್ತದೆ; ಅವರು ಸಲ್ಲಿಸುವ ಮೇಲ್ಮನವಿಗಳಿಗೆ ಸ್ವಯಂಚಾಲಿತ ಪ್ರತಿಕ್ರಿಯೆಗಳು ಮಾತ್ರ ಬರುತ್ತವೆ, ಮತ್ತು ತಪ್ಪುಗಳನ್ನು ಸರಿಪಡಿಸಬಲ್ಲ ಮನುಷ್ಯರನ್ನು ಸಂಪರ್ಕಿಸಲು ಯಾವುದೇ ಸ್ಪಷ್ಟ ಮಾರ್ಗವಿರುವುದಿಲ್ಲ.
ಡೆವಲಪರ್ಗಳು ಮತ್ತು AI ಸಂಶೋಧಕರಿಗೆ, ಈ ಪಾಠವು ವಾಸ್ತುಶಿಲ್ಪಾತ್ಮಕವಾಗಿದೆ (architectural). "Human-in-the-loop" ಎಂಬುದು ಕೇವಲ ಬ್ಲಾಗ್ ಪೋಸ್ಟ್ನಲ್ಲಿ ನೀಡುವ ನೀತಿಯ ಭರವಸೆಯಾಗಬಾರದು. ಅದು ಕಠಿಣ ತಾಂತ್ರಿಕ ನಿರ್ಬಂಧವಾಗಿರಬೇಕು. ಮನುಷ್ಯನ ದೃಢೀಕರಣವಿಲ್ಲದೆ ಖಾಯಂ ನಿಷೇಧವನ್ನು (permanent ban) ನೀಡಲು ವ್ಯವಸ್ಥೆಯು ತಾಂತ್ರಿಕವಾಗಿ ಅಸಮರ್ಥವಾಗಿರಬೇಕು. ಒಂದು ವೇಳೆ ಬಗ್ (bug) ಕಾರಣದಿಂದಾಗಿ ಕೋಡ್ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಯು ಆ ಚೆಕ್ಪಾಯಿಂಟ್ ಅನ್ನು ದಾಟಲು ಅವಕಾಶ ನೀಡಿದರೆ, ಆಗ ಆ ಸುರಕ್ಷತಾ ಕ್ರಮವು ಎಂದಿಗೂ ನಿಜವಾಗಿ ಅಸ್ತಿತ್ವದಲ್ಲಿರಲಿಲ್ಲ ಎಂದರ್ಥ. ವಿಕಸನಗೊಳ್ಳುತ್ತಿರುವ ಬೆದರಿಕೆಗಳಿಗೆ ತಕ್ಕಂತೆ ಪತ್ತೆಹಚ್ಚುವ ಮಾದರಿಗಳು (detection models) ಹೆಚ್ಚು ಆಕ್ರಮಣಕಾರಿಯಾಗುತ್ತಿದ್ದಂತೆ, ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಪತ್ತೆಹಚ್ಚುವ ಪದರಗಳಷ್ಟೇ ಸ್ಥಿತಿಸ್ಥಾಪಕತ್ವವನ್ನು ಹೊಂದಿರುವ ನಿಯಂತ್ರಣ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು (governor mechanisms) ನಿರ್ಮಿಸಬೇಕಾಗುತ್ತದೆ.
ಏನನ್ನು ಬದಲಾಯಿಸಬೇಕು
ಇಲ್ಲಿ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಮತ್ತು ಅವುಗಳನ್ನು ಬಳಸುವ ಜನರಿಬ್ಬರಿಗೂ ಪ್ರಾಯೋಗಿಕ ಪರಿಣಾಮಗಳಿವೆ.
ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳಿಗಾಗಿ, ಮಾಡರೇಶನ್ ಪೈಪ್ಲೈನ್ಗಳು ಖಾತೆ ನಿಷೇಧಗಳನ್ನು ಗಂಭೀರವಾಗಿ ಪರಿಗಣಿಸುವ 'ಫೇಲ್-ಸೇಫ್' (fail-safes) ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹೊಂದಿರಬೇಕು. ಖಾಯಂ ನಿರ್ಮೂಲನೆಗೆ ಹಲವಾರು ಸ್ವತಂತ್ರ ಸಂಕೇತಗಳು ಅಥವಾ ವ್ಯವಸ್ಥೆಯು ಮೀರಿ ಹೋಗಲಾಗದ ಕಡ್ಡಾಯ ಮಾನವ ಸಹಿ (human sign-off) ಅಗತ್ಯವಿರಬೇಕು. ಪಾರದರ್ಶಕತೆಯ ವರದಿಗಳು ಎಷ್ಟು ಕಂಟೆಂಟ್ ಅನ್ನು ತೆಗೆದುಹಾಕಲಾಗಿದೆ ಎಂಬುದನ್ನು ಮಾತ್ರವಲ್ಲದೆ, ತಾಂತ್ರಿಕ ದೋಷಗಳಿಂದ ಎಷ್ಟು ಜಾರಿ ಕ್ರಮಗಳನ್ನು ಹಿಂಪಡೆಯಲಾಗಿದೆ ಎಂಬುದನ್ನೂ ಒಳಗೊಂಡಿರಬೇಕು. ಯಂತ್ರವು ವ್ಯವಸ್ಥಿತ ತಪ್ಪು ಮಾಡಿದಾಗ ಬಳಕೆದಾರರಿಗೆ ಅದನ್ನು ತಿಳಿಯುವ ಹಕ್ಕಿದೆ, ಕೇವಲ ಮೌನವಾಗಿ ಖಾತೆಯನ್ನು ಮರುಸ್ಥಾಪಿಸುವುದು ಸಾಕಾಗುವುದಿಲ್ಲ.
ಬಳಕೆದಾರರಿಗೆ, ನಿಮ್ಮ ಯಾವುದೇ ತಪ್ಪಿಲ್ಲದಿದ್ದರೂ ಯಾವುದೇ ಕೇಂದ್ರೀಕೃತ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ನಿಮ್ಮನ್ನು ಹೊರಹಾಕಬಹುದು ಎಂಬ ನೆನಪನ್ನು ಈ ಘಟನೆಯು ಮಾಡಿಕೊಡುತ್ತದೆ. ನೀವು ಯಾವುದಾದರೂ ಸಮುದಾಯವನ್ನು ನಡೆಸುತ್ತಿದ್ದರೆ ಅಥವಾ ವೃತ್ತಿಪರ ಸಮನ್ವಯಕ್ಕಾಗಿ Discord ಅನ್ನು ಅವಲಂಬಿಸಿದ್ದರೆ, ಅಗತ್ಯ ಸಂಪರ್ಕಗಳು ಮತ್ತು ಡೇಟಾದ ಬ್ಯಾಕಪ್ಗಳನ್ನು ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ಹೊರಗೆ ಇಟ್ಟುಕೊಳ್ಳಿ. ನಿಮಗೆ ಅವಶ್ಯಕತೆ ಬರುವ ಮೊದಲೇ ಮೇಲ್ಮನವಿ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಿ. ಮತ್ತು ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಹೊಸ AI-ಚಾಲಿತ ಸುರಕ್ಷತಾ ಸಾಧನಗಳನ್ನು ಘೋಷಿಸಿದಾಗ, ಸಂಶಯಾಸ್ಪದ ದೃಷ್ಟಿಯಿಂದ ನೋಡುವುದು ಸಮಂಜಸ. ಪತ್ತೆಹಚ್ಚುವಿಕೆಯು ಎಷ್ಟು ನಿಖರವಾಗಿದೆ ಎಂದು ಕೇಳುವುದಷ್ಟೇ ಅಲ್ಲದೆ, ಆ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಯು ತನ್ನಷ್ಟಕ್ಕೆ ತಾನೇ ಕಾರ್ಯನಿರ್ವಹಿಸದಂತೆ ತಡೆಯುವ ರಚನಾತ್ಮಕ ಅಡೆತಡೆಗಳು ಯಾವುವು ಎಂದು ಕೇಳಿ.
Discord ಈ ನಿರ್ದಿಷ್ಟ ಬಗ್ ಅನ್ನು ಸರಿಪಡಿಸಿದೆ ಮತ್ತು ಖಾತೆಗಳನ್ನು ಮರುಸ್ಥಾಪಿಸುತ್ತಿದೆ, ಆದರೆ ಮೂಲಭೂತ ಉದ್ವಿಗ್ನತೆಯು ಇನ್ನೂ ಪರಿಹಾರವಾಗದೆ ಉಳಿದಿದೆ. ಹಾನಿಕಾರಕ ವಿಷಯಗಳನ್ನು ಅಪ್ಲೋಡ್ ಆಗುವ ವೇಗದಲ್ಲೇ ತಡೆಯಲು ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ನ್ಯಾಯಸಮ್ಮತವಾದ ಒತ್ತಡದಲ್ಲಿದ್ದು, ಆ ಒತ್ತಡವು ಮಾಡರೇಶನ್ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಯನ್ನು ಮತ್ತಷ್ಟು ಹೆಚ್ಚಿಸುತ್ತದೆ. ಜನರು ಪ್ರತಿದಿನ ಹಂಚಿಕೊಳ್ಳುವ ಸಾಮಾನ್ಯ ಕಂಟೆಂಟ್ಗೆ ಅಡಚಣೆಯಾಗದಂತೆ, ದುರುಪಯೋಗದ ವಿರುದ್ಧ ಕಠಿಣವಾಗಿರುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಈ ಉದ್ಯಮವು ನಿರ್ಮಿಸಬಲ್ಲದೇ ಎಂಬುದು ಪ್ರಶ್ನೆಯಾಗಿದೆ. ತಾಂತ್ರಿಕ ವಾಸ್ತುಶಿಲ್ಪವು ಮನುಷ್ಯ ಯಾವಾಗಲೂ ಅಂತಿಮ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಅಧಿಕಾರವನ್ನು ಹೊಂದಿರುವುದನ್ನು ಖಚಿತಪಡಿಸದ ಹೊರತು, ಯಾವುದೇ ಮಾಡೆಲ್ ಟ್ಯೂನಿಂಗ್ ಮುಂದಿನ ನಿಷೇಧದ ಅಲೆಗಳನ್ನು ತಡೆಯಲಾರದು.