AI పరిశోధకులు సుమారు 150 తక్కువ ట్రాఫిక్ ఉన్న వార్తా సైట్ల నెట్‌వర్క్, లార్జ్ లాంగ్వేజ్ మోడల్ (LLM) శిక్షణ డేటాను క్రీమ్లిన్ అనుకూల కథనాలతో నింపడానికి సమన్వయంతో కూడిన ప్రయత్నం చేస్తున్నట్లు గుర్తించారు. Pravda నెట్‌వర్క్ అని పిలువబడే ఈ సైట్లు, ఏడాదికి సుమారు మూడు మిలియన్ల కథనాలను విడుదల చేస్తాయి. వీటి కంటెంట్ ప్రస్తుతం అనేక వాణిజ్య AI వ్యవస్థలకు శక్తినిచ్చే Common Crawl డేటాసెట్‌లో కనిపిస్తోంది.

తప్పుడు సమాచార సరఫరా వ్యవస్థ (disinformation pipeline) ఎలా పనిచేస్తుంది

Pravda నెట్‌వర్క్ మానవ పాఠకులను ఆకర్షించడమే లక్ష్యంగా పెట్టుకోదు. బదులుగా, ప్రతి సైట్ కొన్ని పరిమిత అంశాలను పునరావృతం చేస్తూ ఒకే రకమైన కథనాలను ప్రచురిస్తుంది. సెర్చ్ ఇంజన్లు మరియు వెబ్ క్రాలర్‌లు ప్రాధాన్యతనిచ్చే కీవర్డ్‌లతో ఈ టెక్స్ట్‌ను నింపడం ద్వారా, డేటా సేకరణ సమయంలో AI మోడల్ వీటిని చూసే అవకాశం పెరుగుతుంది.

ఇక్కడ రెండు రకాల పాయిజనింగ్ పద్ధతులు పనిచేస్తున్నాయి:

  • Retrieval-time poisoning – ఒక AI అసిస్టెంట్ వెబ్ నుండి ప్రత్యక్ష సమాచారాన్ని సేకరించినప్పుడు, అది చట్టబద్ధమైన వనరులతో పాటు Pravda కథనాన్ని కూడా చూపించవచ్చు. తెలిసిన హానికరమైన డొమైన్‌లను బ్లాక్ చేయడం ద్వారా దీనిని అరికట్టవచ్చు.
  • Training-time poisoning – ఒకవేళ ఈ కథనాలు మోడల్‌ను ప్రీ-ట్రైన్ చేయడానికి ఉపయోగించే భారీ డేటాసెట్‌లలోకి (corpora) చేరితే, ఆ తప్పుడు వాదనలు మోడల్ యొక్క అంతర్గత జ్ఞానంలో భాగంగా మారిపోతాయి. జరిగిన తర్వాత ఇటువంటి కంటెంట్‌ను తొలగించడం చాలా కష్టం.

అనేక AI మోడళ్లను శిక్షణ ఇవ్వడానికి ఉపయోగించే పబ్లిక్ ఆర్కైవ్ అయిన Common Crawl లోని Pravda కథనాలను పరిశోధకులు ఇప్పటికే గుర్తించారు. అంటే ఈ పాయిజనింగ్ అనేది కేవలం ఊహ మాత్రమే కాదు; ఇది ఇప్పటికే చాలా మంది వినియోగదారులు నమ్ముతున్న మోడళ్ల యొక్క జ్ఞాన పునాదిని మార్చివేసింది.

ఇది ఎందుకు ముఖ్యం

"చాలా వనరులు ఏకీభవిస్తున్నాయి" అని AI చెప్పినంత మాత్రాన దానిని నమ్మకండి. మీరు AI సాధనాలను నిర్మిస్తుంటే, తెలిసిన తప్పుడు సమాచార సైట్ల కోసం బ్లాక్‌లిస్ట్‌లను ఉపయోగించండి. సత్యాన్ని కొలవడానికి "ప్రస్తావనల సంఖ్య" (number of mentions)ను కొలమానంగా తీసుకోకండి. పరిమాణం (Quantity) అంటే నాణ్యత (Quality) అని కాదు. AI మీకు చెప్పే ప్రతి విషయాన్ని ధృవీకరించుకోండి, ముఖ్యంగా అది పక్షపాతంగా అనిపిస్తే.

మన భవిష్యత్తు సాంకేతికతకు ఇంటర్నెట్ ఒక శిక్షణ సెట్ (training set). వెబ్‌సైట్ ఉన్న ఎవరైనా మనం నమ్ముతున్న యంత్రాలను పక్షపాత ధోరణిలోకి మళ్లించడానికి ప్రయత్నించవచ్చు.

డెవలపర్లు ఇప్పుడు ఏమి చేయవచ్చు

  • Maintain blocklists – క్రాలింగ్ ఫిల్టర్లలో తెలిసిన తప్పుడు సమాచార డొమైన్‌లను చేర్చండి; బ్లాక్‌లిస్ట్ అనేది రిట్రీవల్-టైమ్ మరియు ట్రైనింగ్-టైమ్ ఎక్స్‌పోజర్‌ను రెండింటినీ నిరోధిస్తుంది.
  • Rethink frequency heuristics – ప్రస్తావనల సంఖ్యను సత్యంతో సమానంగా చూడటం ఆపండి. తక్కువ నాణ్యత కలిగిన డజన్ల కొద్దీ సైట్లలో పునరావృతమయ్యే ఒక వాదన, ఒక సాధారణ ఫ్రీక్వెన్సీ-ఆధారిత మోడల్‌లో నమ్మదగిన వనరు కంటే ఎక్కువ ప్రాధాన్యతను పొందవచ్చు.
  • Apply provenance checks – సమాచారాన్ని దాని అసలు మూలానికి వెనక్కి తీసుకెళ్లండి. ఒకవేళ ఆ సమాచారం చాలా తక్కువ ట్రాఫిక్ మరియు ప్రచార చరిత్ర (propaganda history) ఉన్న సైట్‌తో ముగిస్తే, ఆ అవుట్‌పుట్‌ను సమీక్ష కోసం ఫ్లాగ్ చేయండి.
  • Implement post-training sanitization – రాజకీయపరంగా సున్నితమైన అంశాలను స్పృశించే మోడల్ అవుట్‌పుట్‌లపై క్యూరేటెడ్ ఆడిట్‌లను నిర్వహించండి. ఆటోమేటెడ్ ఫిల్టర్లు గుర్తించలేని వ్యవస్థాగత పక్షపాతాన్ని (systematic bias) మానవ సమీక్షకులు గుర్తించగలరు.

ప్రతిపాదనలు మరియు సవాళ్లు

భద్రత మరియు సమ్మిళితత్వం (inclusivity) మధ్య సమతుల్యతను పాటించడం అనేది ఇంకా పరిష్కరించబడని సమస్యగానే ఉంది.

భవిష్యత్తు వైపు చూపుతూ

తదుపరి తరం AIని రూపొందించడానికి ప్రభుత్వ సంస్థలు (state actors) ఓపెన్ వెబ్‌ను ఎలా ఆయుధంగా వాడుకోగలరో Pravda నెట్‌వర్క్ చూపిస్తుంది.

ముఖ్య గమనిక: AI యొక్క సమగ్రత అది నేర్చుకునే డేటా యొక్క స్వచ్ఛతపై ఆధారపడి ఉంటుంది. తక్కువ ట్రాఫిక్ ఉన్న, ప్రచారంతో నిండిన సైట్ల సమన్వయంతో కూడిన ప్రవాహం, మనం నమ్మే మోడళ్లలో ఇప్పటికే అబద్ధాలను నింపగలదు. మనం నిర్మించే యంత్రాలు తెలియకుండానే తప్పుడు సమాచారానికి నోరుకాయకుండా ఉండాలంటే, డెవలపర్లు వనరుల ప్రతిష్టను (source reputation) ఒక ప్రాథమిక అంశంగా పరిగణించాలి తప్ప, దానిని నిర్లక్ష్యం చేయకూడదు.