AI محققین نے تقریباً 150 کم ٹریفک والی نیوز سائٹس کے ایک نیٹ ورک کی جانب سے ایک منظم کوشش کا انکشاف کیا ہے جس کا مقصد بڑے لینگویج ماڈلز (LLM) کی ٹریننگ ڈیٹا میں پرو-کریملن (pro-Kremlin) بیانیے کو بھرنا ہے۔ یہ سائٹس، جنہیں مجموعی طور پر Pravda نیٹ ورک کے نام سے جانا جاتا ہے، سالانہ تقریباً تیس لاکھ مضامین شائع کرتی ہیں، اور ان کا مواد اب Common Crawl ڈیٹا سیٹ میں نظر آتا ہے جو بہت سے تجارتی AI سسٹمز کو طاقت فراہم کرتا ہے۔

ڈس انفارمیشن پائپ لائن کیسے کام کرتی ہے

Pravda نیٹ ورک کا مقصد انسانی قارئین کو راغب کرنا نہیں ہے۔ اس کے بجائے، ہر سائٹ بار بار ایک ہی طرح کے مضامین شائع کرتی ہے جو مخصوص نکات کو دہراتے ہیں۔ سرچ انجنوں اور ویب کرالرز کو ترجیح دینے والے کی ورڈز (keywords) کے ذریعے متن کو بھر کر، یہ سائٹس اس بات کے امکان کو بڑھا دیتی ہیں کہ ڈیٹا اکٹھا کرنے کے دوران کوئی AI ماڈل ان سے ٹکرا جائے۔

دو poisoning میکانزم کام کر رہے ہیں:

  • Retrieval-time poisoning – جب کوئی AI اسسٹنٹ ویب سے براہ راست معلومات حاصل کرتا ہے، تو یہ مستند ذرائع کے ساتھ Pravda کا مضمون بھی سامنے لا سکتا ہے۔ معلوم بدنیتی پر مبنی ڈومینز کو بلاک کرنے سے اس کے پھیلاؤ کو روکا جا سکتا ہے۔
  • Training-time poisoning – اگر یہ مضامین ماڈل کی پری ٹریننگ (pre-train) کے لیے استعمال ہونے والے بڑے ڈیٹا سیٹس (corpora) میں شامل ہو جائیں، تو غلط دعوے ماڈل کے اندرونی علم کا حصہ بن جاتے ہیں۔ حقیقت سامنے آنے کے بعد ایسے مواد کو ہٹانا کہیں زیادہ مشکل ہوتا ہے۔

محققین نے Common Crawl کے اندر Pravda کے مضامین کا سراغ لگا لیا ہے، جو کہ ایک عوامی آرکائیو ہے جسے بہت سے AI ماڈلز کی تربیت کے لیے استعمال کیا جاتا ہے۔ اس کا مطلب ہے کہ یہ poisoning محض ایک مفروضہ نہیں ہے؛ اس نے پہلے ہی ان ماڈلز کے علمی ذخیرے کو تبدیل کر دیا ہے جن پر آج بہت سے صارفین انحصار کرتے ہیں۔

یہ کیوں اہم ہے

صرف اس لیے AI پر بھروسہ نہ کریں کیونکہ وہ کہتا ہے کہ "بہت سے ذرائع متفق ہیں۔" اگر آپ AI ٹولز بناتے ہیں، تو معلوم ڈس انفارمیشن سائٹس کے لیے blocklists استعمال کریں۔ سچائی کی پیمائش کے لیے "ذکر کیے جانے کی تعداد" (number of mentions) کو معیار نہ بنائیں۔ مقدار کا مطلب معیار نہیں ہوتا۔ AI آپ کو جو کچھ بھی بتائے اس کی تصدیق کریں، خاص طور پر اگر وہ جانبدار معلوم ہو۔

انٹرنیٹ ہماری مستقبل کی ٹیکنالوجی کے لیے ٹریننگ سیٹ ہے۔ کوئی بھی جس کی ویب سائٹ ہے، وہ ان مشینوں کو جانبدار بنانے کی کوشش کر سکتا ہے جن پر ہم انحصار کرتے ہیں۔

ڈیولپرز اب کیا کر سکتے ہیں

  • Maintain blocklists – کرالنگ فلٹرز میں معلوم ڈس انفارمیشن ڈومینز شامل کریں؛ ایک blocklist retrieval-time اور training-time دونوں طرح کے اثرات کو روکتی ہے۔
  • Rethink frequency heuristics – ذکر کیے جانے کی تعداد کو سچائی سے جوڑنا بند کریں۔ ایک دعویٰ جو درجنوں کم معیار والی سائٹس پر دہرایا جائے، وہ ایک سادہ فریکوئنسی پر مبنی ماڈل میں ایک معتبر ذریعے کے مقابلے میں زیادہ وزن رکھ سکتا ہے۔
  • Apply provenance checks – معلومات کا سراغ اس کے اصل ذریعے تک لگائیں۔ اگر یہ سلسلہ ایسی سائٹ پر ختم ہوتا ہے جس کی ٹریفک نہ ہونے کے برابر ہو اور جس کا ماضی پروپیگنڈا کا رہا ہو، تو آؤٹ پٹ کو نظرثانی کے لیے flag کریں۔
  • Implement post-training sanitization – سیاسی طور پر حساس موضوعات سے متعلق ماڈل کے آؤٹ پٹس پر منظم آڈٹ کریں۔ انسانی جائزہ لینے والے اس منظم تعصب کو پکڑ سکتے ہیں جسے خودکار فلٹرز نظر انداز کر دیتے ہیں۔

مخالف نکات اور چیلنجز

سیکیورٹی اور شمولیت کے درمیان توازن برقرار رکھنا اب بھی ایک کھلا مسئلہ ہے۔

مستقبل کی طرف دیکھتے ہوئے

Pravda نیٹ ورک دکھاتا ہے کہ کس طرح ریاستی اداکار AI کی اگلی نسل کو تشکیل دینے کے لیے کھلے انٹرنیٹ کو بطور ہتھیار استعمال کر سکتے ہیں۔

خلاصہ: AI کی سالمیت اس ڈیٹا کی صفائی پر منحصر ہے جس سے وہ سیکھتا ہے۔ کم ٹریفک والی اور پروپیگنڈا سے بھرپور سائٹس کا منظم سیلاب ان ماڈلز میں جھوٹ کو شامل کر سکتا ہے جن پر ہم بھروسہ کرتے ہیں۔ ڈیولپرز کو چاہیے کہ وہ ماڈلز کو ڈس انفارمیشن کا بے خبر ترجمان بننے سے روکنے کے لیے، ماخذ کی ساکھ (source reputation) کو محض ایک ضمنی خیال کے بجائے ایک بنیادی اہمیت کے طور پر لیں۔