อัลกอริทึมการจ้างงานถูกออกแบบมาเพื่อขจัดความไม่สม่ำเสมอของมนุษย์ เพียงแค่ป้อนเรซูเม่จำนวนมากให้โมเดล มันก็จะตัดสินจากคุณสมบัติอย่างเคร่งครัด แต่ความเป็นจริงกลับยุ่งเหยิงกว่านั้น ผลการศึกษาใหม่จากมหาวิทยาลัย Princeton และมหาวิทยาลัย Chicago แสดงให้เห็นว่าโมเดลภาษาขนาดใหญ่ (LLMs) ไม่ได้เพียงแค่ผลิตซ้ำอคติเดิมๆ เท่านั้น แต่พวกมันยังสร้างภาพจำ (stereotypes) ใหม่ๆ ขึ้นมาเองจากความว่างเปล่า และยิ่งโมเดลฉลาดมากเท่าไหร่ สิ่งนี้ก็ยิ่งเกิดขึ้นเร็วเท่านั้น
วิธีการทดลอง
นักวิจัยได้สร้างตลาดแรงงานจำลองเพื่อเฝ้าดูการก่อตัวของอคติแบบเรียลไทม์ พวกเขาได้สมมติกลุ่มชาติพันธุ์ขึ้นมาสี่กลุ่ม ได้แก่ Tufa, Aima, Reku และ Weki และมอบหมายให้ ChatGPT, Claude และ Gemini ทำหน้าที่จัดหาบุคลากรสำหรับงานยี่สิบประเภทที่แตกต่างกัน รายการงานมีตั้งแต่แพทย์และวิศวกรไปจนถึงพนักงานทำความสะอาดและพนักงานดูแลอาคาร รายละเอียดสำคัญคือ เบื้องหลังฉากกั้น ผู้สมัครทุกคนมีโอกาสประสบความสำเร็จทางสถิติที่เท่ากันทุกประการ ชาว Weki มีโอกาสที่จะประสบความสำเร็จในอาชีพแพทย์ได้เท่ากับชาว Tufa ทุกประการ ทุกอย่างถูกกำหนดมาอย่างยุติธรรมตามหลักคณิตศาสตร์
แต่ความยุติธรรมไม่ใช่สิ่งที่เกิดขึ้น หลังจากการจ้างงานแต่ละรอบ โมเดลจะได้รับข้อมูลป้อนกลับง่ายๆ ว่าผู้สมัครที่เลือกนั้นประสบความสำเร็จหรือล้มเหลว เมื่อผู้สมัครชาว Aima ทำผลงานได้ไม่ดีในตำแหน่งที่มีสถานะสูงเพียงครั้งเดียว โมเดลไม่ได้มองว่านั่นคือความคลาดเคลื่อนแบบสุ่ม แต่มันกลับมองว่าเป็นกฎเกณฑ์ ระบบเริ่มจำกัดให้ผู้สมัครชาว Aima อยู่แต่ในตำแหน่งที่มีสถานะต่ำ เช่น งานทำความสะอาด อย่างรวดเร็ว ข้อมูลเพียงจุดเดียวกลายเป็นโชคชะตา AI ได้สร้างลำดับชั้นขึ้นมาเอง ซึ่งไม่มีโปรแกรมเมอร์ที่เป็นมนุษย์เขียนขึ้น และไม่มีอยู่ในชุดข้อมูลทางประวัติศาสตร์ใดๆ
เมื่อโมเดลที่ฉลาดสร้างการสรุปความที่โง่เขลา
นักวิจัยวัดผลลัพธ์ด้วยมาตรวัดการแบ่งแยก (segregation scale) โดยที่ค่า 2.0 หมายถึงการจำกัดกลุ่มคนให้อยู่ในเฉพาะกลุ่มงานเพียงอย่างเดียว ผู้เข้าร่วมการทดลองที่เป็นมนุษย์ในการศึกษาทางจิตวิทยาก่อนหน้านี้ได้คะแนน 0.84 แต่โมเดลภาษาต่างๆ กลับทำคะแนนทะลุเกณฑ์นั้นไปไกล โมเดลการใช้เหตุผลของ OpenAI อย่าง o3 ทำคะแนนได้ถึง 1.83 ซึ่งเกือบจะเป็นการแบ่งแยกที่สมบูรณ์แบบ
นี่คือปัญหาความขัดแย้งระหว่างการสำรวจและการใช้ประโยชน์ (exploration-exploitation dilemma) ที่กำลังออกอาละวาด ระบบเหล่านี้ถูกปรับแต่งมาเพื่อให้ชนะในโจทย์คณิตศาสตร์ การเขียนโค้ด และปริศนาตรรกะ โดเมนเหล่านั้นให้รางวัลกับการด่วนสรุปที่ถูกต้องจากหลักฐานเพียงน้อยนิด: มองหารูปแบบ ล็อกมันไว้ แล้วไปต่อให้เร็วขึ้น เมื่อนำปฏิกิริยาตอบสนองแบบเดียวกันนี้มาใช้กับมนุษย์ คุณจึงได้การแบ่งแยกทางชาติพันธุ์โดยอิงจากการจ้างงานที่ล้มเหลวเพียงครั้งเดียว
ที่แย่กว่านั้นคือ รูปแบบนี้จะรุนแรงขึ้นเมื่อโมเดลมีความซับ
ความสะอาดของข้อมูลก็มีความสำคัญเช่นกัน การให้บริบทส่วนบุคคลที่เกี่ยวข้อง เช่น อายุ การศึกษา และจำนวนปีของประสบการณ์ ช่วยให้โมเดลมีสัญญาณที่สมเหตุสมผลในการนำไปพิจารณา ซึ่งช่วยลดการพึ่งพาการเหมารวมทางชาติพันธุ์ แต่หากใส่รายละเอียดที่ไม่เกี่ยวข้องอย่างเช่นสีผมเข้าไป ระบบก็จะหยิบยกสิ่งเหล่านั้นมาเป็นข้ออ้างในการกลับไปใช้วิธีการจัดกลุ่มตามลักษณะเฉพาะของกลุ่มคน ข้อมูลที่มากขึ้นไม่ได้ดีกว่าเสมอไป แต่มันขึ้นอยู่กับว่าข้อมูลนั้นคืออะไร และข้อมูลนั้นเปิดทางเลือกอื่นให้โมเดลเข้าสู่เป้าหมายในการหาค่าที่เหมาะสมที่สุดหรือไม่
เส้นทางข้างหน้า
เรื่องทั้งหมดนี้มีความสำคัญอย่างยิ่ง เพราะระบบเหล่านี้ไม่ได้จำกัดอยู่แค่ในหน้าต่างแชทเท่านั้น สถาปัตยกรรมแบบเดียวกันนี้กำลังถูกนำไปใช้ หรือกำลังอยู่ในขั้นตอนการเตรียมความพร้อม สำหรับการอนุมัติเงินกู้ การแนะนำการพักโทษ และการตัดสินใจด้านการบริหารจัดการบุคลากรในระดับกว้าง นักวิจัยเตือนถึง “อคติรูปแบบใหม่” ซึ่งเป็นอคติที่มนุษย์ไม่เคยมีและไม่มีอยู่ในชุดข้อมูลทางประวัติศาสตร์ แต่เป็นสิ่งที่ AI สร้างขึ้นมาเองในระหว่างที่พยายามไล่ตามประสิทธิภาพ
ความจริงที่น่าอึดอัดใจก็คือ ความสามารถในการใช้เหตุผลดิบๆ กับความยุติธรรมทางสังคมสามารถดึงกันไปในทิศทางที่ตรงกันข้ามได้ โมเดลที่ถูกปรับแต่งมาเพื่อหาเส้นทางที่สั้นที่สุดไปสู่คำตอบที่ถูกต้อง จะยินดีที่จะหาเส้นทางที่สั้นที่สุดไปสู่ข้อสันนิษฐานที่ผิดพลาดเกี่ยวกับผู้คนเช่นกัน การสร้างระบบที่ยุติธรรมไม่ได้หมายถึงเพียงแค่การร้องขออย่างสุภาพ แต่มันหมายถึงการออกแบบวัตถุประสงค์ใหม่ การตรวจสอบวงจรการตอบกลับ และการยอมรับว่าการสรุปแบบเหมารวมบางอย่าง—ประเภทที่ลดทอนความเป็นมนุษย์ให้เหลือเพียงแค่หมวดหมู่หลังจากความผิดพลาดเพียงครั้งเดียว—จะต้องไม่ถูกปล่อยให้เกิดขึ้นโดยเด็ดขาด หากเราต้องการให้ AI ตัดสินผู้สมัครอย่างยุติธรรม เราต้องเลิกปฏิบัติกับความยุติธรรมในฐานะ "คำแนะนำ" และเริ่มกำหนดให้มันเป็น "ข้อกำหนดที่เคร่งครัด" หากทำได้น้อยกว่านั้น เครื่องจักรจะหาทางเพิ่มประสิทธิภาพจนนำไปสู่การมีอคติโดยตรง