AI संशोधकांनी सुमारे १५० कमी ट्रॅफिक असलेल्या बातम्यांच्या साइट्सच्या नेटवर्कद्वारे Large Language Model (LLM) च्या ट्रेनिंग डेटावर क्रिमलिन समर्थक वृत्तांत (pro-Kremlin narratives) पसरवण्याचा एक समन्वित प्रयत्न उघडकीस आणला आहे. 'Pravda' नेटवर्क म्हणून ओळखल्या जाणाऱ्या या साइट्स दरवर्षी सुमारे तीस लाख लेख प्रकाशित करतात आणि त्यांचे साहित्य आता अनेक व्यावसायिक AI प्रणालींना आधार देणाऱ्या Common Crawl डेटासेटमध्ये दिसून येत आहे.

disinformation pipeline कशी काम करते

Pravda नेटवर्कचा उद्देश मानवी वाचकांना आकर्षित करणे हा नाही. त्याऐवजी, प्रत्येक साइट काही ठराविक मुद्द्यांची पुनरावृत्ती करणारे लेख प्रकाशित करते. सर्च इंजिन आणि वेब क्रॉलर्सना प्राधान्य देणाऱ्या कीवर्ड्सचा वापर करून, या साइट्स डेटा संकलनादरम्यान AI मॉडेलला त्यांचे लेख मिळण्याची शक्यता वाढवतात.

दोन प्रकारच्या poisoning यंत्रणा येथे कार्यरत आहेत:

  • Retrieval-time poisoning – जेव्हा एखादा AI असिस्टंट वेबवरून थेट माहिती मिळवतो, तेव्हा तो वैध स्रोतांसोबत Pravda चा लेख देखील समोर आणू शकतो. ज्ञात दुर्भावनापूर्ण (malicious) डोमेन्स ब्लॉक केल्यास हे टाळता येऊ शकते.
  • Training-time poisoning – जर हे लेख मॉडेलच्या प्री-ट्रेनिंगसाठी वापरल्या जाणाऱ्या मोठ्या डेटा संचांमध्ये (bulk corpora) मिसळले गेले, तर ते खोटे दावे मॉडेलच्या अंतर्गत ज्ञानाचा भाग बनतात. एकदा हे झाले की, असे साहित्य काढून टाकणे अत्यंत कठीण असते.

संशोधकांनी आधीच अनेक AI मॉडेल्सना प्रशिक्षित करण्यासाठी वापरल्या जाणाऱ्या सार्वजनिक आर्काइव्ह, Common Crawl मध्ये Pravda चे लेख शोधून काढले आहेत. याचा अर्थ असा की हे poisoning केवळ काल्पनिक नाही; तर यामुळे आज अनेक वापरकर्ते ज्या मॉडेल्सवर अवलंबून आहेत, त्यांच्या ज्ञानकोशात आधीच बदल झाले आहेत.

हे का महत्त्वाचे आहे

AI केवळ "अनेक स्रोत सहमत आहेत" असे म्हणत असल्यामुळे त्यावर विश्वास ठेवू नका. जर तुम्ही AI टूल्स बनवत असाल, तर ज्ञात disinformation साइट्ससाठी ब्लॉकलिस्ट वापरा. सत्य मोजण्याचे साधन म्हणून "उल्लेख संख्या" (number of mentions) वापरू नका. प्रमाण म्हणजे गुणवत्ता नव्हे. AI तुम्हाला जे काही सांगते, त्याची पडताळणी करा, विशेषतः जर ते पक्षपाती वाटत असेल तर.

इंटरनेट हे आपल्या भविष्यातील तंत्रज्ञानासाठी ट्रेनिंग सेट आहे. वेबसाइट असलेल्या कोणत्याही व्यक्तीला आपण ज्या मशीनवर अवलंबून आहोत, त्यांना पक्षपाती बनवण्याचा प्रयत्न करता येऊ शकतो.

डेव्हलपर्स आता काय करू शकतात

  • ब्लॉकलिस्ट मेंटेन करा – क्रॉलिंग फिल्टर्समध्ये ज्ञात disinformation डोमेन्स जोडा; ब्लॉकलिस्टमुळे retrieval-time आणि training-time या दोन्ही प्रकारच्या धोक्यांपासून संरक्षण मिळते.
  • frequency heuristics वर पुनर्विचार करा – उल्लेखांच्या संख्येचा सत्याशी संबंध जोडणे थांबवा. एका साध्या frequency-based मॉडेलमध्ये, डझनभर कमी दर्जाच्या साइट्सवर वारंवार येणारा दावा एका प्रतिष्ठित स्रोतापेक्षा जास्त प्रभावी ठरू शकतो.
  • provenance checks लागू करा – माहितीचा मूळ स्रोत शोधून काढा. जर माहितीचा प्रवास अशा साइटवर संपत असेल जिचा ट्रॅफिक नगण्य आहे आणि ज्याचा इतिहास प्रोपोगंडाचा आहे, तर त्या आउटपुटला पुनरावलोकनासाठी (review) मार्क करा.
  • post-training sanitization लागू करा – राजकीयदृष्ट्या संवेदनशील विषयांना स्पर्श करणाऱ्या मॉडेल आउटपुट्सवर काळजीपूर्वक ऑडिट करा. मानवी पुनरीक्षकांना (human reviewers) असे पद्धतशीर पक्षपात शोधता येऊ शकतात जे ऑटोमेटेड फिल्टर्सना सुटतात.

प्रतिवाद आणि आव्हाने

सुरक्षा आणि सर्वसमावेशकता यांचा समतोल राखणे हे अजूनही एक उघडे आव्हान आहे.

भविष्यातील दृष्टीकोन

Pravda नेटवर्क हे दर्शवते की सरकारी घटक (state actors) AI ची पुढची पिढी घडवण्यासाठी ओपन वेबचा शस्त्र म्हणून वापर कसा करू शकतात.

Takeaway: AI ची अखंडता ही ती ज्या डेटावरून शिकते त्याच्या स्वच्छतेवर अवलंबून असते. कमी ट्रॅफिक असलेल्या आणि प्रोपोगंडाने भरलेल्या साइट्सचा समन्वित मारा आधीच आपण विश्वास ठेवतो त्या मॉडेल्समध्ये असत्य माहिती रुजवू शकतो. आपण बनवलेली मशीन्स चुकीची माहिती पसरवण्याचे अनवधानाने माध्यम बनू नयेत यासाठी डेव्हलपर्सनी स्रोतांच्या प्रतिष्ठेला (source reputation) केवळ नंतरचा विचार न मानता, प्राथमिक महत्त्वाचा विषय मानले पाहिजे.