Hiring algorithms were supposed to strip away human inconsistency. Feed a model enough resumes, and it would judge stric

Algorithmi za kuajiri zilikuwa zimekusudiwa kuondoa kutokuwa na uthabiti kwa binadamu. Ukipatia modeli CV nyingi za kutosha, ingehukumu kwa kuzingatia sifa pekee. Ukweli unazidi kuwa mchafu zaidi. Utafiti mpya kutoka Chuo Kikuu cha Princeton na Chuo Kikuu cha Chicago unaonyesha kuwa modeli kubwa za lugha (LLMs) hazirejeshi tu ubaguzi wa zamani. Zinatunga dhana mpya za ubaguzi kutoka hewani, na kadiri modeli inavyokuwa na akili zaidi, ndivyo jambo hilo linavyotokea haraka zaidi.

Jinsi Jaribio Lilivyofanyika

Watafiti walijenga soko la ajira la mfano ili kuona ubaguzi unavyojitokeza kwa wakati halisi. Walibuni makundi manne ya kikabila ya kufikirika—Tufa, Aima, Reku, na Weki—na kutoa kazi kwa matoleo ya ChatGPT, Claude, na Gemini ya kuajiri watu kwa kazi ishirini tofauti. Orodha hiyo ilihusisha kuanzia madaktari na wahandisi hadi wafanyakazi wa usafi na wasafishaji. Hapa kuna jambo muhimu: nyuma ya pazia, kila mgombea alikuwa na nafasi sawa ya mafanikio kulingana na takwimu. Mwanachama wa kundi la Weki alikuwa na nafasi sawa kabisa ya kufanikiwa kama daktari kama vile mwanachama wa kundi la Tufa alivyo. Hali ilikuwa ya haki kimahesabu.

Lakini haki ndiyo iliyojitokeza. Baada ya kila mzunguko wa kuajiri, modeli zilipokea mrejesho rahisi kuhusu ikiwa mgombea waliochagua alifanikiwa au alishindwa. Mgombea wa Aima aliposhindwa kufanya kazi vizuri mara moja katika nafasi ya hadhi ya juu, modeli haikuichukulia kama hitilafu ya kawaida. Iliichukulia kama sheria. Mfumo ulianza haraka kuwafunga wagombea wa Aima katika nafasi za hadhi ya chini kama kazi za usafi. Takwimu moja ikawa hatima. AI ilikuwa imetunga mfumo wa daraja ambao hakuna mwanaprogramu aliyeuandika na hakuna seti ya takwimu za kihistoria iliyokuwa nayo.

Wakati Modeli Zenye Akili Zinapofanya Ujumla wa Kijinga

Watafiti walipima matokeo kwa kutumia kipimo cha utengano ambapo 2.0 inawakilisha kufungwa kabisa kwa kundi katika eneo moja maalum. Washiriki wa binadamu katika tafiti za awali za kisaikolojia walipata alama 0.84. Modeli za lugha zilivuka kiwango hicho kwa urahisi. Modeli ya uwezo wa kufikiri ya OpenAI, o3, ilifikia 1.83—utengano karibu kamili.

Hii ni changamoto ya "exploration-exploitation" inayokimbia bila udhibiti. Mifumo hii imeboreshwa kushinda matatizo ya hisabati, changamoto za kodi, na mafumbo ya mantiki. Maeneo hayo yanazipatia zawadi kwa kufikia hitimisho sahihi kutokana na ushahidi mdogo. Tambua mfumo. Ulifunge. Tembea haraka zaidi. Ukitumia mmenyuko huo huo kwa watu, unapata upangaji wa kikabila kulingana na ajira moja iliyofeli.

Mbaya zaidi, mfumo huo huongezeka kadiri modeli zinavyozidi kuwa za kisasa. Mifumo mipya yenye uwezo mkubwa wa kufikiri kama o3 ya OpenAI na R1 ya DeepSeek ilionyesha ubaguzi mkubwa zaidi kwa sababu tu ni "generalizers" wenye shauku zaidi. Wanaboresha kwa kuunda sheria mapema na kuziboresha kwa nguvu. Mada inapokuwa binadamu, ujasiri huo unakuwa mzigo. Modeli inafikiri imegundua ukweli kuhusu kundi la Aima. Kwa uhalisia, imejenga gereza kutokana na takwimu moja iliyo nje ya kawaida.

Mtego wa Kumbukumbu

Utafiti huu unakuja wakati mgumu. Sekta inageukia kwa nguvu kuelekea AI ya “agentic”—mifumo inayohifadhi kumbukumbu ya muda mrefu, inatengeneza wasifu wa kina wa mtumiaji, na inafanya maamuzi ya kibinafsi kwa miezi au miaka. Angelina Wang, mwanasayansi wa kompyuta katika Chuo Kikuu cha Cornell, anaonya kwamba kumbukumbu iliyoboreshwa inaruhusu modeli "kuzingatia kupita kiasi" (over-index) mwingiliano wa awali. Takwimu moja hasi—mkopo mmoja uliokataliwa, ajira moja iliyositishwa, maombi moja yaliyowekwa alama—inakuwa dhana ya kudumu. Ubaguzi haufifii kadiri muda unavyopita; unakuwa mgumu zaidi. Kipengele hicho chenyewe kilichokusudiwa kuifanya AI iwe na msaada zaidi na inayozingatia mazingira kinaweza pia kuifanya iwe isiyo na haki kwa msimamo mkali.

Nini Kinatatua Tatizo Hili Hasa

Watafiti walijaribu mbinu kadhaa za ulinzi, na matokeo yalikuwa ya kutia unyenyekevu.

Kusema tu kwa modeli "kuwa na haki" hakufanikiwa chochote. Agizo hilo lilikaa hapo kama mapambo wakati injini ya uboreshaji iliyopo chini ilikuwa ikielekea kwenye lengo lake halisi: kuongeza ajira zenye mafanikio. Maadili kwa ombi ni maadili yanayopuuzwa.

Suluhisho lililofanya kazi lilikuwa la kimuundo. Wakati watafiti walipozipa modeli bonasi ya ziada ya kimahesabu kwa kudumisha matokeo ya ajira yenye utofauti, utengano ulipungua kwa kiasi kikubwa. Thamani ya kijamii ilipaswa kuingizwa moja kwa moja kwenye utendaji wa zawadi (reward function), na si kuongezwa kama wazo la baadaye. Kwa maneno mengine, modeli ilipaswa kuhisi motisha ya haki katika mahesabu yake, si kusoma tu katika maelekezo yake.

Usafi wa data pia ulikuwa muhimu. Kutoa muktadha binafsi unaohusika—umri, elimu, miaka ya uzoefu—kuliwapa mifumo ishara halali za kuzingatia, jambo ambalo lilipunguza utegemezi wake kwenye dhana potofu za kikabila. Lakini ukiongeza maelezo yasiyohusika kama rangi ya nywele, mifumo hiyo huyaona kama sababu za kurejea kwenye uainishaji wa kulingana na makundi. Taarifa nyingi si wakati wote ni bora zaidi. Inategemea kabisa aina ya taarifa hiyo na ikiwa inaupa mfumo njia mbadala ya kufikia lengo lake la uboreshaji.

Njia ya Mbele

Yote haya yana uzito kwa sababu mifumo hii haibaki ndani tu ya madirisha ya mazungumzo. Miundo hiyo hiyo inatumika, au inatayarishwa kwa bidii, kwa ajili ya uidhinishaji wa mikopo, mapendekezo ya msamaha wa kifungo, na maamuzi ya usimamizi wa wafanyakazi kwa kiwango kikubwa. Watafiti wanaonya kuhusu “upendeleo mpya”—upendeleo ambao hakuna binadamu aliyewahi kuwa nao na hakuna seti ya data ya kihistoria iliyouweka, lakini ambao AI umeujenga wenyewe wakati wa kutafuta ufanisi.

Ukweli usiofurahishi ni kwamba uwezo wa kufikiri wa asili na usawa wa kijamii vinaweza kuvutana katika pande zinazopingana. Mfumo uliolengwa kupata njia fupi zaidi ya kupata jibu sahihi utatafuta kwa furaha njia fupi zaidi ya kufikia dhana potofu kuhusu watu. Kujenga mifumo ya haki hakutamaanisha tu kuomba kwa adabu. Itamaanisha kubadilisha malengo, kukagua mifumo ya mrejesho, na kukubali kwamba baadhi ya jumla—ile inayowafanya wanadamu kuwa kundi moja baada ya kosa moja—haipaswi kuruhusiwa kamwe kuundwa. Ikiwa tunataka AI iwahukumu wagombea kwa haki, lazima tuache kuchukulia usawa kama pendekezo na tuanze kuuweka kama sharti la lazima. Chochote kidogo zaidi ya hapo, na mashine hizo zitajipatia njia ya kuelekea moja kwa moja kwenye ubaguzi kupitia uboreshaji wao.