Kwa nini Upunguzaji wa Muktadha wa AI Unapuuza Maelekezo Yako Kimyakimya
Kadiri mazungumzo na Mifumo Mikubwa ya Lugha (LLMs) yanavyozidi kuwa marefu, watengenezaji wanategemea zaidi "upunguzaji wa muktadha" (context compression) au ufupishaji ili kudhibiti mipaka ya tokeni na kuzuia vikwazo vya utendaji. Hata hivyo, utafiti mpya unafichua kasoro muhimu katika uboreshaji huu: mifumo ya AI inapofupisha historia ya mazungumzo ili kuokoa nafasi, mara nyingi hutupa sheria ambazo zimekusudiwa kuongoza tabia zao.
Ulegevu wa Masharti ya Kikao (Session Constraints)
Wakati mfumo wa AI unapofanyiwa ufupishaji, lengo lake kuu ni kuhifadhi mwendelezo wa kazi—kudumisha lengo, hali ya sasa, na hatua muhimu zinazofuata. Ingawa hii inahifadhi "nini" cha mazungumzo, mara nyingi inatumbukiza "jinsi" ya kufanya hivyo.
Watafiti wa Penn State wamebaini kuwa "masharti ya kikao" (session constraints) ndiyo waathirika wa kwanza wa mchakato huu. Haya ni sheria zisizo za kudumu zinazowekwa na mtumiaji kama vile "Usitumie jina langu katika majibu yako" au "Thibitisha nami kabla ya kufanya mabadiliko yoyote." Kwa sababu maelekezo haya si sehemu ya kazi kuu au maelekezo ya kudumu ya mfumo (system prompt), algoriti za upunguzaji huyaona kama maelezo ya sekondari na kuyaondoa ili kupata nafasi ya data muhimu zaidi.
Matokeo ya COMPINT: Kiwango cha Uhai cha 17%
Ili kupima kuporomoka huku, watafiti walitengeneza seti ya tathmini ya COMPINT. Matokeo ni ya kushtua: kwa wastani, ni asilimia 17 tu ya masharti ya kikao yaliyoingizwa yanayofanikiwa kuvuka mchakato wa upunguzaji.
Utafiti huo ulionyesha anguko kubwa katika utii wa sheria. Wakati wakala (agent) anapokuwa na ufikiaji wa muktadha kamili usiofupishwa, viwango vya utii kwa kawaida huwa kati ya 59% na 71%. Mara tu ufupishaji unapofanyika, utii hushuka kwa kasi, mara nyingi ukifika viwango ambavyo ni vigumu kutofautisha na hali ambapo hakuna sharti lililowahi kutolewa.
Hili si suala la mabadiliko madogo ya mazungumzo tu; ni hatari kubwa ya usalama na uaminifu. Katika mifumo ya kazi ya wakala (agentic workflows), kupotea kwa sharti kama "Usitekeleze kodi bila idhini" kunaweza kusababisha uitchaji wa zana usioidhinishwa, uvujaji wa data, au mabadiliko yasiyothibitishwa kwenye mifumo ya nje kama kalenda au barua pepe.
Suluhisho Nyepesi kupitia Qwen3.5-9B
Badala ya kufanyia marekebisho makubwa mantiki tata ya upunguzaji inayotumiwa na maabara kubwa za AI, watafiti wanapendekeza suluhisho la kisanifu la "plug-and-play". Walitengeneza moduli ndogo ya nyongeza inayozingatia modeli ya Qwen3.5-9B iliyoundwa kufanya kazi kama kiondoa (extractor) maalum.
Moduli hii hufanya kazi kwa:
- Kuskeni kila ingizo la mtumiaji kwa wakati halisi ili kugundua na kutenga masharti ya kikao.
- Kudumisha orodha maalum na huru ya sheria hizi.
- Kuongeza orodha hii iliyochujwa kwenye muhtasari kila wakati mfumo mkuu unapofanya ufupishaji.
Matokeo ya njia hii ni yenye ufanisi mkubwa. Kiondoa hicho kilifikia zaidi ya asilimia 90 ya uhifadhi katika mazingira mbalimbali ya majaribio, ikiwa ni pamoja na kiwango cha mafanikio cha 95.6% kwa mienendo ya wakala (agent trajectories) na 90.3% kwa mazungumzo ya pande nyingi (multi-turn chats). Kwa sababu njia hii haihitaji kufundisha upya modeli kuu na hakuna mabadiliko kwenye miundombinu iliyopo ya upunguzaji, inatoa njia inayoweza kupanuliwa kuelekea mwingiliano wa AI wa muktadha mrefu unaoaminika zaidi.
Mambo Muhimu ya Kuzingatia
- Kufutwa kwa Masharti: Upunguzaji wa muktadha huweka kipaumbele malengo ya kazi kuliko sheria za tabia, na kusababisha nyingi za "masharti ya kikao" zilizowekwa na mtumiaji kupotea wakati wa ufupishaji.
- Hatari za Usalama: Kupotea kwa maelekezo—kama vile mahitaji ya uhakiki wa binadamu (human-in-the-loop)—kunaweza kusababisha vitendo vya wakala visivyoidhinishwa na usalama kuingiliwa.
- Marekebisho ya Moduli: Kutumia modeli ndogo na maalum kama Qwen3.5-9B kufuatilia masharti kando kunaweza kurejesha uhifadhi wa maelekezo hadi zaidi ya 90%.