AI研究者は、約150の低トラフィックなニュースサイトのネットワークによる、大規模言語モデル（LLM）の学習データに親ロシア的な言説を大量に流し込む組織的な取り組みを明らかにしました。「Pravdaネットワーク」として総称されるこれらのサイトは、年間約300万本の記事を配信しており、そのコンテンツは現在、多くの商用AIシステムの基盤となっているCommon Crawlデータセットに現れています。
ディスインフォメーション・パイプラインの仕組み
Pravdaネットワークの目的は、人間の読者を惹きつけることではありません。その代わりに、各サイトは限られた一連の論点を繰り返す、反復的な記事を公開しています。検索エンジンやウェブクローラーが優先するキーワードをテキストに詰め込むことで、データ収集の過程でAIモデルがそれらの記事に遭遇する確率を高めているのです。
2つの汚染メカニズムが作用しています：
- 検索時（Retrieval-time）のポイズニング – AIアシスタントがウェブから最新情報を取得する際、正当な情報源と並んでPravdaの記事が表示される可能性があります。既知の悪意あるドメインをブロックすることで、この露出を抑制できます。
- 学習時（Training-time）のポイズニング – 記事がモデルの事前学習に使用される大規模コーパスに紛れ込んだ場合、誤った主張がモデルの内部知識の一部となります。事後的にこのようなコンテンツを削除することは、はるかに困難です。
研究者は、多くのAIモデルの学習に使用される公開アーカイブであるCommon Crawlの中に、すでにPravdaの記事を追跡しています。つまり、この汚染は仮説ではなく、すでに多くのユーザーが今日利用しているモデルの知識ベースを書き換えてしまっているのです。
なぜこれが重要なのか
AIが「多くの情報源が同意しています」と言ったからといって、それを鵜呑みにしないでください。 AIツールを構築する場合は、既知のディスインフォメーションサイトのブロックリストを使用してください。 「言及回数」を真実性を測る指標として使用しないでください。量と質は等しくありません。 AIが伝えることはすべて、特に偏りがあるように感じられる場合は、必ず検証してください。
インターネットは、私たちの未来のテクノロジーの学習セットです。ウェブサイトを持つ者なら誰でも、私たちが頼りにしている機械にバイアスをかけようと試みることができるのです。
開発者が今できること
- ブロックリストの維持 – 既知のディスインフォメーション・ドメインをクロール・フィルターに追加します。ブロックリストは、検索時と学習時の両方の露出を防ぎます。
- 頻度ヒューリスティックの再考 – 言及回数と真実性を同一視するのをやめてください。単純な頻度ベースのモデルでは、数十の低品質なサイトで繰り返される主張が、単一の信頼できる情報源よりも「多数派」として扱われてしまう可能性があります。
- プロベナンス（情報源の由来）チェックの適用 – 情報を元の情報源まで遡って追跡します。情報の連鎖が、トラフィックが極めて少なく、プロパガンダの履歴があるサイトで終わる場合は、出力をレビュー対象としてフラグを立ててください。
- 学習後のサニタイズ（浄化）の実装 – 政治的に敏感なトピックに触れるモデルの出力に対して、精査された監査を実施します。人間のレビュアーは、自動フィルターが見逃してしまう系統的なバイアスを検出できます。
反論と課題
セキュリティと包括性のバランスをどう取るかは、依然として未解決の問題です。
今後の展望
Pravdaネットワークは、国家主体がいかにしてオープンなウェブを武器化し、次世代のAIを形作ろうとしているかを示しています。
まとめ： AIの完全性は、それが学習するデータの清潔さに依存します。低トラフィックでプロパガンダに満ちたサイトによる組織的な大量流入は、私たちが信頼しているモデルに、すでに虚偽を埋め込み始めています。開発者は、私たちが構築する機械が意図せずディスインフォメーションの代弁者となってしまわないよう、情報源の信頼性を後回しにするのではなく、最優先事項として扱う必要があります。