Mradi wa Open Web Application Security (OWASP) umetangaza orodha yake ya Top 10 ya GenAI LLM ya mwaka 2026, na “Excessive Agency” imepanda kutoka nafasi ya sita hadi ya tatu. Hatua hii ni muhimu kwa sababu inaonyesha kuwa makosa hatari zaidi hayazuiliwi tena kwenye matokeo mabaya ya maandishi, bali kwenye mawakala (agents) wanaoweza kuchukua hatua kwenye miundombinu yako.

Kwa nini mabadiliko haya ni muhimu

Kwa mara ya kwanza, orodha ya Top 10 imejengwa kwa kutumia robo ya data yake inayotokana na matukio halisi—zaidi ya uvunjifu, udanganyifu (exploits) na utovu wa nidhamu ulioripotiwa zaidi ya 6,000. Matoleo ya awali yalitegemea karibu kabisa maoni ya wataalamu. Ishara za ulimwengu halisi zinaonyesha kuwa wakati modeli ya lugha inapoweza kuitia wazi (call) API, kutekeleza kodi (execute code) au kuhamisha pesa, matokeo yanabadilika kutoka kwenye uvujaji wa maandishi wa aibu hadi kwenye uharibifu mkubwa wa kiutendaji. Prompt injection bado inaongoza orodha, ikifuatiwa na ufunuo wa taarifa nyeti, lakini kuongezeka kwa “Excessive Agency” katika nafasi tatu za juu kunazitahadharisha timu za usalama kuwa wimbi lijalo la mashambulizi litatumia zana (tools) badala ya lugha pekee.

“Excessive agency” inaonekanaje

Excessive agency inaelezea hali yoyote ambapo LLM inapewa uwezo ambao haipaswi kuwa nao, au uwezo mkubwa kuliko ule ambao vizuizi (guardrails) vilivyopo vinaweza kudhibiti. Mifano ya kawaida ni pamoja na:

  • Msaidizi anayetoa wito kwenye maeneo ya mwisho ya huduma ndogo za ndani (internal micro-service endpoints) bila uhakiki wa ruhusa.
  • Bot ya kutengeneza kodi inayounda na kuendesha skripti kwenye seva za uzalishaji (production servers).
  • Wakala wa otomatiki wa kifedha anayeanzisha uhamishaji wa pesa baada ya amri (prompt) iliyoundwa kwa makusudi.

Ikiwa amri (prompt) yenye nia mbaya itaidanganya modeli wakati ina uwezo huo, uvunjifu unakuwa wa papo hapo na mara nyingi unagharimu pesa nyingi. Hatari huongezeka kulingana na pengo kati ya uwezo wa modeli kufuata amri na ukali wa udhibiti uliopo.

Jinsi Top 10 mpya ilivyojengwa

Toleo la 2026 linachanganya uamuzi wa wataalamu na data thabiti. Takriban 25% ya nafasi hizi zinatokana na mkusanyiko wa matukio yaliyotajwa hapo awali, ikipa uzito mifumo ambayo imetokea kweli katika ulimwengu halisi. Mabadiliko haya ya mbinu yanaelezea kwa nini “Excessive Agency” imepanda kwa kasi: data zinaonyesha ongezeko la wazi la matukio ambapo modeli ilitekeleza kitendo badala ya kutoa maandishi pekee.

Mabadiliko mengine muhimu

  • Hidden Context Exposure (iliyobadilishwa jina kutoka “System Prompt Leakage”) inapanda ili kuangazia seti pana zaidi ya data nyeti, ikionyesha kuwa washambuliaji wanazidi kuchimba muktadha wa modeli (model context) ili kupata siri.
  • Improper Output Handling inashuka hadi nafasi ya kumi, ikionyesha kuwa mashirika yanazidi kuwa bora katika kusafisha (sanitising) majibu ghafi ya modeli. Lengo la sekta linabadilika kutoka “modeli ilisema kitu kibaya” kwenda “modeli ilifanya kitu kibaya.”

Mabadiliko haya yanathibitisha mtazamo kwamba eneo la tishio (threat surface) linapanuka kutoka matokeo ya tuli (static outputs) kwenda tabia zinazobadilika (dynamic behaviors).

Kupunguza hatari

Timu za usalama zinaweza kuanza kupunguza excessive agency kwa hatua tatu za vitendo:

  1. Weka mipaka ya zana zako – Mpe kila wakala vitendo pekee vinavyohitajika kwa kazi yake mahususi. Epuka kumpa LLM moja “sanduku la zana kamili” kwa ajili ya urahisi; ruhusa za kina (granular permissions) hupunguza athari za uvunjifu (blast radius) wa amri iliyoingiliwa.
  2. Jenga vizuizi (guardrails) kwenye kodi, si kwenye amri (prompts) – Tegemea uhakiki wa wazi wa ruhusa, milango ya uthibitisho (confirmation gates), na kumbukumbu za ukaguzi (audit logs) katika tabaka linalotekeleza zana hiyo. Chukulia kila matokeo ya modeli kama ombi lisiloaminika ambalo lazima lipitie ukaguzi wa usalama sawa na wito wowote wa API ya nje.
  3. Orodhesha mchanganyiko wote wa zana – Weka kumbukumbu kuhusu ni wakala gani anaweza kufikia API, skripti, au maeneo ya mwisho ya kifedha (financial endpoints) yapi. Muhimu zaidi kuliko orodha yenyewe ni kuelewa jinsi uwezo huo unavyoingiliana; jozi ya zana zinazoonekana zisizo na madhara zinaweza kuwa hatari zinapounganishwa pamoja.

Orodha mpya ya Top 10 pia inaunganisha kila hatari na viwango vikuu vya usalama vya mashirika, ikitoa lugha ya pamoja kwa walinzi ili kujadili hatua za kupunguza hatari na timu za utii (compliance) na ukaguzi.

Hoja kinyume: je, hatari imetiliwa chumvi?

Baadhi ya wataalamu wanahoji kuwa “excessive agency” inaonyesha tu chaguzi mbaya za usanifu badala ya kasoro ya asili katika AI ya kutengeneza (generative AI). Wanabainisha kuwa mfumo wowote unaoweza kutengenezwa unaweza kutumiwa vibaya ikipewa ufikiaji usio na kikomo, na kwamba mbinu imara za DevOps tayari zinashughulikia mifano mingi iliyoainishwa. Ingawa nidhamu kuhusu ruhusa ni muhimu, ongezeko la hatari linalozingatia data linaonyesha kuwa mashirika mengi bado yanachelewa kutumia mbinu hizo katika mifumo ya kazi inayoongezwa nguvu na AI.

Nini cha kufuatilia baadaye

  • Marekebisho zaidi ya Top 10 – Kadiri matukio zaidi yanavyorekodiwa, orodha ya OWASP itaendelea kubadilika. Kufuatilia toleo la kila mwaka kutasaidia timu kutabiri mwelekeo wa tishio.

Ujumbe uko wazi: kumpa modeli ya lugha uwezo wa kuchukua hatua ni gharama nafuu; kulinda dhidi ya uwezo huo ni gharama kubwa. Mashirika yanayochukulia matokeo ya modeli kama ombi, na si uamuzi, yatabaki mbele ya wimbi linalochipuka la mashambulizi yanayotumia zana.