مطالعه جدید گروه آلمانی AlgorithmWatch نشان‌دهنده ناهماهنگی‌های قابل‌توجه و سوگیری‌های احتمالی در نحوه مدیریت پرس‌وجوهای مربوط به انتخابات توسط AI Overviews گوگل است. این تحقیق نشان می‌دهد که خلاصه‌های تولیدشده توسط هوش مصنوعی فاقد شفافیت هستند، از مجموعه محدودی از منابع استفاده می‌کنند و گاهی اوقات از زبان حزبی برای توصیف نامزدهای سیاسی بهره می‌برند.

محرک‌های ناهماهنگ و عدم شفافیت

AlgorithmWatch با استفاده از "Search Researcher Result API" تحت قانون خدمات دیجیتال اتحادیه اروپا، ۴۴۸۰ پرس‌وجوی جستجو درباره انتخابات ایالتی پیش‌رو در آلمان را بررسی کرد. داده‌ها شکاف عمیقی را در نحوه به‌کارگیری ویژگی‌های هوش مصنوعی گوگل آشکار می‌کنند. AI Overviews در ۶۵.۳٪ از جستجوهای غیرسیاسی ظاهر می‌شوند، اما این میزان برای پرس‌وجوهای مربوط به انتخابات به ۳۹.۱٪ کاهش می‌یابد.

مکانیسم فعال‌سازی همچنان مانند یک «جعبه سیاه» باقی مانده است. پرسش‌ها درباره نظرسنجی‌های سیاسی تقریباً هیچ‌گاه منجر به نمایش یک خلاصه (overview) نمی‌شوند، در حالی که پرس‌وجو درباره احزاب خاص، در ۴۰ تا ۵۰ درصد مواقع باعث فعال شدن آن می‌شود. حزب راست‌گرای افراطی AfD تنها در ۲۴٪ موارد خلاصه دریافت می‌کند، در حالی که این رقم برای سایر احزاب بین ۴۵ تا ۵۸ درصد است. گوگل می‌گوید این ویژگی‌ها ارزش افزوده ایجاد می‌کنند و برای هر جستجو نمایش داده نمی‌شوند، اما هنوز معیارهای دقیقی را که تعیین می‌کند چه زمانی یک خلاصه ظاهر شود، فاش نکرده است.

اکوسیستم اطلاعاتی محدود و تسلط YouTube

AlgorithmWatch همچنین به یکدست بودن منابع اشاره کرد. تقریباً نیمی از تمام لینک‌های ارجاع‌شده در AI Overviews تنها از ده دامنه استخراج شده‌اند و YouTube در صدر این لیست قرار دارد. شبکه‌های پخش عمومی آلمان — NDR، rbb، MDR و ARD — بر ارجاعات رسانه‌ای تسلط دارند، اما شش سایت رسانه‌ای، ۷۵٪ از کل لینک‌های رسانه‌ای را تأمین می‌کنند.

هوش مصنوعی اغلب بدون اینکه صفحات رسمی احزاب را به عنوان منابع حزبی برچسب‌گذاری کند، به آن‌ها استناد می‌کند و بدین ترتیب مرز بین روزنامه‌نگاری و مطالب تبلیغاتی را کمرنگ می‌سازد.

قاب‌بندی حزبی و مشکل «تملق‌گویی» (Sycophancy)

لحن زبانی باعث بروز نگرانی‌های دموکراتیک شده است. AlgorithmWatch دریافت که مواضع سیاسی مکرراً با صفت‌های چاپلوسانه و مبهم مانند «عمل‌گرا» یا «پایدار» توصیف می‌شوند که بازتاب‌دهنده برندسازی خودِ احزاب است. در یک نمونه‌برداری از ایالت ساکسونی-آنهالت، ۸۱.۵٪ از خلاصه‌ها درباره حزب مرکزگرای راست CDU «به وضوح مثبت» ارزیابی شدند، در حالی که این رقم برای SPD معادل ۵۰٪ و برای AfD صفر درصد بود.

خطاهای واقعی نادر بودند، اما مدل‌ها «تملق‌گویی» (sycophancy) از خود نشان دادند؛ یعنی تمایلی به بازتاب دادن لحن ورودی یا مطالب منبع. این امر منجر به ایجاد برچسب‌های متناقض برای یک نامزد واحد شد، مانند استفاده از عبارت «ملی-محافظه‌کار» در یک مورد و «راست‌گرای افراطی رادیکال» در موردی دیگر، بدون اینکه الگوی مشخصی وجود داشته باشد.

نکات کلیدی

  • ابهام الگوریتمی: گوگل هیچ معیار مشخصی برای فعال‌سازی AI Overviews در پرس‌وجوهای سیاسی ارائه نمی‌دهد که منجر به تجربه‌های کاربری نابرابر می‌شود.
  • تمرکز منابع: هوش مصنوعی به مجموعه بسیار محدودی از منابع تکیه می‌کند، به طوری که YouTube و تعداد انگشت‌شماری از رسانه‌ها بخش عمده‌ای از ارجاعات را تأمین می‌کنند.
  • سوگیری زبانی: مدل‌ها از زبان تملق‌آمیز و مثبت‌گرایانه حمایت می‌کنند که می‌تواند به‌طور ناخواسته به نفع احزاب خاصی باشد.