Peneliti AI telah mengungkap upaya terkoordinasi oleh jaringan sekitar 150 situs berita dengan trafik rendah untuk membanjiri data pelatihan model bahasa besar (LLM) dengan narasi pro-Kremlin. Situs-situs tersebut, yang secara kolektif dikenal sebagai jaringan Pravda, mempublikasikan sekitar tiga juta artikel per tahun, dan konten mereka kini muncul dalam dataset Common Crawl yang menggerakkan banyak sistem AI komersial.

Cara kerja pipa disinformasi

Jaringan Pravda tidak bertujuan untuk menarik pembaca manusia. Sebaliknya, setiap situs menerbitkan artikel berulang yang mengulang serangkaian poin pembicaraan yang sempit. Dengan menjejalkan teks dengan kata kunci yang diprioritaskan oleh mesin pencari dan perayap web (web crawlers), situs-situs tersebut meningkatkan peluang model AI untuk menemukannya selama pengumpulan data.

Dua mekanisme peracunan (poisoning) sedang berperan:

  • Retrieval-time poisoning – Saat asisten AI mengambil informasi langsung dari web, ia dapat menampilkan artikel Pravda bersamaan dengan sumber-sumber yang sah. Memblokir domain berbahaya yang telah diketahui dapat menekan paparan ini.
  • Training-time poisoning – Jika artikel-artikel tersebut menyelinap ke dalam korpus massal yang digunakan untuk pra-pelatihan model, klaim palsu tersebut menjadi bagian dari pengetahuan internal model. Menghapus konten semacam itu setelah kejadian jauh lebih sulit.

Peneliti telah melacak artikel Pravda di dalam Common Crawl, sebuah arsip publik yang digunakan untuk melatih banyak model AI. Itu berarti peracunan ini bukanlah hal hipotetis; hal ini telah mengubah basis pengetahuan model yang diandalkan banyak pengguna saat ini.

Mengapa ini penting

Jangan percaya AI hanya karena ia mengatakan "banyak sumber setuju." Jika Anda membangun alat AI, gunakan daftar blokir (blocklists) untuk situs disinformasi yang telah diketahui. Jangan gunakan "jumlah penyebutan" sebagai cara untuk mengukur kebenaran. Kuantitas tidak sama dengan kualitas. Verifikasi segala sesuatu yang dikatakan AI kepada Anda, terutama jika tampak bias.

Internet adalah set pelatihan untuk teknologi masa depan kita. Siapa pun yang memiliki situs web dapat mencoba membiaskan mesin yang kita andalkan.

Apa yang dapat dilakukan pengembang sekarang

  • Memelihara daftar blokir (blocklists) – Tambahkan domain disinformasi yang diketahui ke filter perayapan; daftar blokir menghentikan paparan pada saat pengambilan (retrieval-time) maupun saat pelatihan (training-time).
  • Memikirkan kembali heuristik frekuensi – Berhenti menyamakan jumlah penyebutan dengan kebenaran. Sebuah klaim yang diulang di puluhan situs berkualitas rendah dapat mengalahkan satu sumber tepercaya dalam model berbasis frekuensi yang naif.
  • Menerapkan pemeriksaan asal-usul (provenance checks) – Telusuri informasi kembali ke sumber aslinya. Jika rantai tersebut berakhir di situs dengan trafik yang sangat kecil dan sejarah propaganda, tandai output tersebut untuk ditinjau.
  • Menerapkan sanitasi pasca-pelatihan – Jalankan audit terkurasi pada output model yang menyentuh topik sensitif secara politik. Peninjau manusia dapat menangkap bias sistematis yang terlewatkan oleh filter otomatis.

Argumen penyeimbang dan tantangan

Menyeimbangkan keamanan dan inklusivitas tetap menjadi masalah yang belum terselesaikan.

Menatap masa depan

Jaringan Pravda menunjukkan bagaimana aktor negara dapat mempersenjatai web terbuka untuk membentuk generasi AI berikutnya.

Kesimpulan: Integritas AI bergantung pada kebersihan data yang dipelajarinya. Banjir terkoordinasi dari situs-situs berisikan propaganda dengan trafik rendah sudah dapat menanamkan kebohongan ke dalam model yang kita percayai. Pengembang harus memperlakukan reputasi sumber sebagai perhatian utama, bukan sekadar pemikiran tambahan, agar mesin yang kita bangun tidak menjadi corong yang tidak disadari bagi disinformasi.