ผลการศึกษาใหม่โดย AlgorithmWatch ซึ่งเป็นกลุ่มรณรงค์ของเยอรมนี ได้เผยให้เห็นถึงความไม่สอดคล้องกันอย่างมีนัยสำคัญและอคติที่อาจเกิดขึ้นในวิธีที่ AI Overviews ของ Google จัดการกับคำค้นหาที่เกี่ยวข้องกับการเลือกตั้ง งานวิจัยแสดงให้เห็นว่าบทสรุปที่สร้างโดย AI นั้นขาดความโปร่งใส ใช้แหล่งข้อมูลที่จำกัด และบางครั้งใช้ภาษาที่มีลักษณะแบ่งฝักแบ่งฝ่ายในการอธิบายผู้สมัครทางการเมือง

กลไกการกระตุ้นที่ไม่สอดคล้องกันและความขาดความโปร่งใส

ด้วยการใช้ "Search Researcher Result API" ภายใต้กฎหมาย Digital Services Act ของสหภาพยุโรป AlgorithmWatch ได้ตรวจสอบคำค้นหาจำนวน 4,480 รายการเกี่ยวกับการเลือกตั้งระดับรัฐที่กำลังจะเกิดขึ้นในเยอรมนี ข้อมูลเผยให้เห็นถึงช่องว่างที่ชัดเจนในการปรับใช้ฟีเจอร์ AI ของ Google โดย AI Overviews จะปรากฏขึ้นใน 65.3% ของการค้นหาที่ไม่เกี่ยวข้องกับการเมือง แต่ลดลงเหลือเพียง 39.1% สำหรับคำค้นหาที่เกี่ยวข้องกับการเลือกตั้ง

กลไกการกระตุ้น (triggering mechanism) ยังคงเป็น "กล่องดำ" (black box) คำถามเกี่ยวกับผลสำรวจทางการเมืองแทบจะไม่กระตุ้นให้เกิดการแสดงผลสรุปเลย ในขณะที่คำค้นหาเกี่ยวกับพรรคการเมืองเฉพาะเจาะจงจะกระตุ้นให้เกิดสรุปได้ 40%-50% ของจำนวนครั้งทั้งหมด พรรค AfD ซึ่งเป็นพรรคขวาจัดได้รับสรุปเพียง 24% เมื่อเทียบกับ 45%-58% สำหรับพรรคอื่นๆ Google ระบุว่าฟีเจอร์เหล่านี้ช่วยเพิ่มคุณค่าและไม่ได้แสดงผลสำหรับการค้นหาทุกครั้ง แต่ยังไม่ได้เปิดเผยเกณฑ์ที่ชัดเจนในการตัดสินใจว่าเมื่อใดที่สรุปจะปรากฏขึ้น

ระบบนิเวศข้อมูลที่จำกัดและการครอบงำของ YouTube

AlgorithmWatch ยังชี้ให้เห็นถึงความซ้ำซ้อนของแหล่งข้อมูล โดยเกือบครึ่งหนึ่งของลิงก์ที่ถูกอ้างอิงใน AI Overviews มาจากโดเมนเพียงสิบแห่งเท่านั้น และ YouTube ก็ครองอันดับหนึ่งในรายการนี้ สถานีโทรทัศน์สาธารณะของเยอรมนี ได้แก่ NDR, rbb, MDR และ ARD เป็นสื่อหลักที่ถูกอ้างอิง แต่มีเว็บไซต์สื่อเพียง 6 แห่งที่จัดหาลิงก์สื่อถึง 75% ของลิงก์ทั้งหมด

บ่อยครั้งที่ AI อ้างอิงหน้าเว็บทางการของพรรคการเมืองโดยไม่มีการระบุว่าเป็นเนื้อหาที่มีความลำเอียง ทำให้เส้นแบ่งระหว่างงานวารสารศาสตร์และสื่อประชาสัมพันธ์หาเสียงเลือนลางลง

การวางกรอบแบบแบ่งฝักแบ่งฝ่ายและปัญหา "Sycophancy"

น้ำเสียงทางภาษาได้สร้างความกังวลต่อระบอบประชาธิปไตย AlgorithmWatch พบว่าจุดยืนทางการเมืองมักถูกอธิบายด้วยคำคุณศัพท์ที่ดูดีและคลุมเครือ เช่น "เน้นการปฏิบัติจริง" (pragmatic) หรือ "มั่นคง" (stable) ซึ่งเป็นการสะท้อนภาพลักษณ์ที่พรรคการเมืองสร้างขึ้นเอง ในกลุ่มตัวอย่างจากรัฐแซกโซนี-อันฮัลต์ (Saxony-Anhalt) พบว่า 81.5% ของสรุปเกี่ยวกับพรรค CDU ซึ่งเป็นพรรคสายกลางค่อนไปทางขวา ถูกตัดสินว่า "เป็นบวกอย่างชัดเจน" เมื่อเทียบกับ 50% สำหรับพรรค SPD และ 0% สำหรับพรรค AfD

ข้อผิดพลาดทางข้อเท็จจริงนั้นพบได้น้อย แต่โมเดลกลับแสดงอาการ "sycophancy" หรือแนวโน้มที่จะเลียนแบบน้ำเสียงของข้อมูลนำเข้าหรือเนื้อหาต้นฉบับ สิ่งนี้ทำให้เกิดการใช้คำเรียกที่ขัดแย้งกันสำหรับผู้สมัครคนเดียวกัน เช่น ในกรณีหนึ่งถูกเรียกว่า "national-conservative" (อนุรักษนิยมแห่งชาติ) แต่อีกกรณีหนึ่งกลับถูกเรียกว่า "radical far-right" (ขวาจัดสุดโต่ง) โดยไม่มีรูปแบบที่ชัดเจน

สรุปประเด็นสำคัญ

  • ความไม่โปร่งใสของอัลกอริทึม: Google ไม่ได้ให้เกณฑ์ที่ชัดเจนในการกระตุ้น AI Overviews สำหรับคำค้นหาทางการเมือง ส่งผลให้ประสบการณ์ของผู้ใช้ไม่เท่าเทียมกัน
  • การกระจุกตัวของแหล่งข้อมูล: AI พึ่งพาแหล่งข้อมูลที่มีอยู่อย่างจำกัดมาก โดยมี YouTube และสื่อเพียงไม่กี่แห่งเป็นผู้จัดหาการอ้างอิงส่วนใหญ่
  • อคติทางภาษา: โมเดลมีแนวโน้มใช้ภาษาที่ดูเป็นการประจบสอพลอและฟังดูเป็นบวก ซึ่งอาจส่งผลดีต่อพรรคการเมืองบางพรรคโดยไม่ตั้งใจ