מחקר חדש של קבוצת הסנגור הגרמנית AlgorithmWatch חשף חוסר עקביות משמעותי והטיות פוטנציאליות באופן שבו ה-AI Overviews של Google מטפלים בשאילתות הקשורות לבחירות. המחקר מראה כי הסיכומים שנוצרו על ידי הבינה המלאכותית חסרים שקיפות, נשענים על סט מצומצם של מקורות, ולעיתים משתמשים בשפה מפלגתית לתיאור מועמדים פוליטיים.

טריגרים לא עקביים וחוסר שקיפות

באמצעות ה-"Search Researcher Result API" תחת חוק השירותים הדיגיטליים של האיחוד האירופי (EU's Digital Services Act), בחנה AlgorithmWatch 4,480 שאילתות חיפוש בנוגע לבחירות מדינתיות קרובות בגרמניה. הנתונים חושפים פער ניכר בפריסת תכונות ה-AI של Google. ה-AI Overviews מופיעים ב-65.3% מחיפושים שאינם פוליטיים, אך היחס צונח ל-39.1% בשאילתות הקשורות לבחירות.

מנגנון ההפעלה (triggering mechanism) נותר "קופסה שחורה". שאלות על סקרים פוליטיים כמעט אף פעם לא מעוררות סקירה (overview), בעוד ששאילתות על מפלגות ספציפיות מעוררות אחת ב-40%-50% מהמקרים. מפלגת ה-AfD מהימין הקיצוני מקבלת סקירות רק ב-24% מהמקרים, בהשוואה ל-45%-58% עבור מפלגות אחרות. Google טוענת כי התכונות מוסיפות ערך ואינן מוצגות בכל חיפוש, אך היא לא חשפה את הקריטריונים המדויקים שקובעים מתי תופיע סקירה.

מערכת אקולוגית של מידע מצומצמת ודומיננטיות של YouTube

AlgorithmWatch הצביעה גם על ההומוגניות של המקורות. כמעט מחצית מכל הקישורים המצוטטים ב-AI Overviews מגיעים מתוך עשרה דומיינים בלבד, ו-YouTube בראש הרשימה. גופי השידור הציבוריים הגרמניים — NDR, rbb, MDR ו-ARD — שולטים בציטוטים התקשורתיים, אך שישה אתרי מדיה מספקים 75% מכלל הקישורים התקשורתיים.

הבינה המלאכותית מצטטת לעיתים קרובות דפי מפלגה רשמיים מבלי לסמן אותם כמפלגתיים, מה שמטשטש את הגבול בין עיתונאות לחומרי קמפיין.

מסגור מפלגתי ובעיית ה-"Sycophancy"

הטון הלשוני מעלה חששות דמוקרטיים. AlgorithmWatch מצאה כי עמדות פוליטיות מתוארות לעיתים קרובות באמצעות תארים מחמיאים ומעורפלים כמו "פרגמטי" או "יציב", המהדהדים את המיתוג של המפלגות עצמן. במדגם מסקסוני-אנאלט, 81.5% מהסקירות על מפלגת ה-CDU מהמרכז-ימין נשפטו כ"חיוביות בבירור", לעומת 50% עבור ה-SPD ו-0% עבור ה-AfD.

טעויות עובדתיות היו נדירות, אך המודלים הפגינו "sycophancy" — נטייה לשקף את הטון של הקלט או של חומר המקור. דבר זה יצר תיוגים סותרים עבור אותו מועמד, כגון "לאומן-שמרני" במקרה אחד ו"ימין קיצוני רדיקלי" במקרה אחר, ללא דפוס ברור.

נקודות מרכזיות

  • עמימות אלגוריתמית: Google אינה מספקת קריטריונים ברורים להפעלת AI Overviews בשאילתות פוליטיות, מה שמוביל לחוויית משתמש לא אחידה.
  • ריכוז מקורות: הבינה המלאכותית נשענת על מאגר מצומצם מאוד של מקורות, כאשר YouTube ומספר מצומצם של כלי תקשורת מספקים את רוב הציטוטים.
  • הטיה לשונית: המודלים מעדיפים שפה חנפנית בעלת צליל חיובי, שעלולה להעניק יתרון לא מכוון למפלגות מסוימות.