كان من المفترض لخوارزميات التوظيف أن تزيل التناقض البشري؛ فبمجرد تزويد النموذج بما يكفي من السير الذاتية، سيقوم بالتقييم بناءً على المؤهلات فقط. لكن الواقع يبدو أكثر تعقيداً. تُظهر دراسة جديدة من جامعة برينستون وجامعة شيكاغو أن نماذج اللغات الكبيرة لا تكتفي بإعادة تدوير التحيزات القديمة فحسب، بل إنها تبتكر صوراً نمطية جديدة من العدم، وكلما كان النموذج أكثر ذكاءً، حدث ذلك بشكل أسرع.
كيف جرت التجربة
قام الباحثون ببناء سوق عمل محاكى لمراقبة تشكل التحيز في الوقت الفعلي. حيث اخترعوا أربع مجموعات عرقية خيالية — Tufa وAima وReku وWeki — وكلفوا نسخاً من ChatGPT وClaude وGemini بتوظيف أشخاص في عشرين وظيفة مختلفة. تراوحت القائمة من الأطباء والمهندسين إلى عمال النظافة. وإليك التفصيل الحاسم: خلف الكواليس، كانت لدى كل مرشح فرص إحصائية متطابقة للنجاح. فكان لدى مرشح من مجموعة Weki نفس الفرصة تماماً للنجاح كطبيب كما هو الحال لدى مرشح من مجموعة Tufa. كانت اللعبة عادلة من الناحية الرياضية.
لكن العدالة لم تكن هي ما نتج عن ذلك. فبعد كل جولة توظيف، تلقت النماذج ملاحظات بسيطة حول ما إذا كان المرشح الذي اختارته قد نجح أم فشل. وعندما أخفق مرشح من مجموعة Aima مرة واحدة في دور وظيفي رفيع المستوى، لم يتعامل النموذج مع الأمر كضوضاء عشوائية، بل تعامل معه كقاعدة ثابتة. وسرعان ما بدأ النظام في حصر مرشحي Aima في وظائف منخفضة المستوى مثل أعمال التنظيف. لقد تحولت نقطة بيانات واحدة إلى قدر محتوم. لقد ابتكر الذكاء الاصطناعي تسلسلاً هرمياً لم يكتبه أي مبرمج بشري ولم تحتوِ عليه أي مجموعة بيانات تاريخية.
عندما تطلق النماذج الذكية تعميمات غبية
قاس الباحثون النتائج على مقياس للفصل حيث يمثل الرقم 2.0 الحصر الكامل لمجموعة ما في مجال واحد فقط. وقد سجل المشاركون البشريون في دراسات نفسية سابقة 0.84. لكن نماذج اللغات تجاوزت هذا المعيار بمراحل؛ حيث سجل نموذج الاستدلال من OpenAI، وهو o3، نسبة 1.83 — وهو ما يمثل فصلاً شبه كامل.
هذه هي معضلة "الاستكشاف والاستغلال" (exploration-exploitation dilemma) التي خرجت عن السيطرة. فهذه الأنظمة مصممة للفوز في المسائل الرياضية، وتحديات البرمجة، والألغاز المنطقية. وتكافئ هذه المجالات القفز إلى استنتاج صحيح بناءً على أدلة ضئيلة؛ رصد النمط، تثبيته، ثم التحرك بشكل أسرع. وإذا طُبق هذا الرد الفعلي نفسه على البشر، فستحصل على فرز عرقي بناءً على فشل عملية توظيف واحدة.
والأسوأ من ذلك، أن هذا النمط يزداد حدة كلما أصبحت النماذج أكثر تطوراً. فقد أظهرت الأنظمة الحديثة ذات القدرة العالية على الاستدلال، مثل o3 من OpenAI وR1 من DeepSeek، تحيزاً أقوى لأنها أكثر حماساً للتعميم. فهي تعمل على تحسين أدائها من خلال صياغة القواعد مبكراً وصقلها بقوة. وعندما يكون الموضوع بشراً، تصبح هذه الثقة عبئاً؛ إذ يعتقد النموذج أنه اكتشف حقيقة ما عن مجموعة Aima، بينما هو في الواقع قد بنى قفصاً بناءً على حالة استثنائية واحدة.
فخ الذاكرة
تأتي هذه الدراسة في وقت حرج، حيث يتجه القطاع بقوة نحو الذكاء الاصطناعي "الوكيل" (agentic AI) — وهي الأنظمة التي تحتفظ بذاكرة طويلة المدى، وتبني ملفات تعريف مفصلة للمستخدمين، وتخصص القرارات على مدار أشهر أو سنوات. وتحذر أنجيلينا وانغ، وهي عالمة حاسوب في جامعة كورنيل، من أن تحسين الذاكرة يسمح للنماذج بـ "التركيز المفرط" على التفاعلات السابقة. فالحالة الاستثنائية السلبية الواحدة — مثل رفض قرض واحد، أو إنهاء توظيف شخص واحد، أو الإبلاغ عن طلب واحد — تتحول إلى افتراض دائم. لا يتلاشى التحيز مع مرور الوقت، بل يزداد صلابة. إن الميزة ذاتها التي تهدف إلى جعل الذكاء الاصطناعي أكثر فائدة وإدراكاً للسياق قد تجعله أيضاً أكثر تحيزاً وعناداً.
ما الذي يعالج المشكلة حقاً
اختبر الباحثون عدة ضمانات، وكانت النتائج متواضعة.
إن مجرد إخبار النموذج بأن "يكون عادلاً" لم يحقق شيئاً تقريباً. فقد ظل التوجيه مجرد زينة بينما استمر محرك التحسين الأساسي في العمل نحو هدفه الحقيقي: تحقيق أقصى قدر من عمليات التوظيف الناجحة. فالأخلاقيات التي تُطلب كأمر هي أخلاقيات يتم تجاهلها.
أما الإصلاح الذي نجح فكان هيكلياً. فعندما منح الباحثون النماذج مكافأة رياضية إضافية للحفاظ على نتائج توظيف متنوعة، انخفضت نسبة الفصل بشكل كبير. كان لا بد من دمج القيمة الاجتماعية مباشرة في "دالة المكافأة" (reward function)، وليس إضافتها كفكرة ثانوية. بعبارة أخرى، كان على النموذج أن يشعر بحافز العدالة في حساباته، وليس مجرد قراءته في تعليماته.
كانت نظافة البيانات أمراً مهماً أيضاً. إن توفير سياق شخصي ذي صلة — مثل العمر، والتعليم، وسنوات الخبرة — منح النماذج إشارات مشروعة للمفاضلة بينها، مما قلل من اعتمادها على الصور النمطية العرقية. ولكن بمجرد إدراج تفاصيل غير ذات صلة مثل لون الشعر، تتخذها الأنظمة ذريعة للعودة إلى التصنيف القائم على المجموعات. فالمزيد من المعلومات ليس أفضل دائماً؛ إذ يعتمد الأمر كلياً على ماهية تلك المعلومات وما إذا كانت تمنح النموذج مساراً بديلاً للوصول إلى هدف التحسين الخاص به.
الطريق إلى الأمام
كل هذا يحمل أهمية بالغة لأن هذه الأنظمة لن تظل حبيسة نوافذ الدردشة. فذات البنى التحتية يتم نشرها، أو يتم إعدادها بنشاط، للموافقة على القروض، وتوصيات الإفراج المشروط، وقرارات إدارة القوى العاملة على نطاق واسع. ويحذر الباحثون من "تحيزات مستحدثة" — وهي أحكام مسبقة لم يحملها أي إنسان من قبل ولم تكن مشفرة في أي مجموعة بيانات تاريخية، بل هندسها الذكاء الاصطناعي لنفسه أثناء سعيه وراء الكفاءة.
الحقيقة المزعجة هي أن القدرة المجردة على التفكير والعدالة الاجتماعية يمكن أن يسحبا في اتجاهين متعاكسين. فالنموذج الذي تم تحسينه لإيجاد أقصر طريق للوصول إلى إجابة صحيحة، سيسعى بكل سرور لإيجاد أقصر طريق للوصول إلى افتراض خاطئ حول الناس. إن بناء أنظمة عادلة لن يعني مجرد "الطلب بلطف". بل سيعني إعادة تصميم الأهداف، وتدقيق حلقات التغذية الراجعة، والقبول بأن بعض التعميمات — من النوع الذي يختزل البشر في فئة معينة بعد خطأ واحد — يجب ألا يُسمح لها بالتكون أبداً. إذا أردنا للذكاء الاصطناعي أن يحكم على المرشحين بإنصاف، فعلينا التوقف عن معاملة العدالة كاقتراح، والبدء في تشفيرها كقيد صارم. وأي شيء أقل من ذلك، ستشق الآلات طريقها عبر التحسين مباشرة نحو التحيز.