Jake Williams, mtafiti wa usalama, amefichua mfumo wa CUSTODY wiki hii, akiwapa mashirika njia ya kuweka ruhusa na mipaka ya wazi ya wakati wa utendaji (runtime permissions) kwa ajili ya AI agents wanaofanya kazi ndani ya mitandao ya kampuni. Zana hii ni muhimu kwa sababu, tofauti na programu za kawaida, AI agents wanaweza kuchukua data, kuitia wito huduma (invoke services) na kubadilisha mifano (models) kwa njia ya hiari—yote bila sera inayoeleweka na inayoweza kusimamiwa—jambo linaloacha pengo ambalo washambuliaji wameshaanza kulitumia.

Kwa nini AI agents wanahitaji uzio

Mifumo ya AI ya mashirika sasa inajumuisha chat-bots, injini za mapendekezo (recommendation engines), wafanya maamuzi wenye uwezo wa kujitegemea (autonomous decision-makers) na mamia ya mawakala wa nyuma (background agents) wanaovuta data kutoka kwenye API za ndani au huduma za upande wa tatu. Mifumo ya usalama iliyopo inazingatia kuta za moto za mipaka (perimeter firewalls), ulinzi wa ncha za kifaa (endpoint protection) na mgawanyo wa mtandao (network segmentation), lakini inakosa njia ya kawaida ya kusema “wakala huyu anaweza kusoma rekodi za wateja lakini hawezi kuandika kwenye hifadhidata ya fedha.” Ukosefu wa udhibiti kama huo wa wakati wa utendaji (runtime controls) umesababisha tayari matukio ambapo mawakala walioingiliwa yalitumika kutoa data (exfiltrate data) au kuharibu uzito wa modeli (model weights).

Jinsi CUSTODY inavyoziba pengo

CUSTODY inaleta lugha inayozingatia sheria inayoelezea kile ambacho AI agent anaruhusiwa kufanya mara tu anapojiunga na mtandao. Sera zinaweza kubainisha:

  • Ufikiaji wa rasilimali – ni hifadhidata, hifadhi za faili au API zipi wakala anaweza kuuliza.
  • Mipaka ya hatua – ikiwa wakala anaweza kusoma tu, au pia kuandika, kufuta au kuanzisha kazi za baadaye (downstream jobs).
  • Muktadha wa utekelezaji – vizuizi kwenye mazingira ya kompyuta, kama vile kiasi cha CPU (CPU quotas) au utengano wa kontena (container isolation).

Wakati wa utendaji, mfumo unazuia simu za wakala na kuzilinganisha na seti ya sera, ukizuia operesheni yoyote inayovuka mipaka iliyowekwa. Hii inazuia wakala aliyeibiwa kutangatanga bila udhibiti katika mazingira ya kampuni.

Kuunganisha CUSTODY kwenye mifumo iliyopo

Mfumo huu unafanya kazi pamoja na zana za usalama zilizopo. Unaweza kuunganishwa na majukwaa maarufu ya orchestration, muda wa utendaji wa kontena (container runtimes) na lango za API (API gateways), lakini hatua kamili hutofautiana kulingana na jukwaa la wakala linalotumika. Mashirika lazima yaainishe orodha yao ya AI, yaandike faili za sera kwa kila aina ya wakala, na kujaribu tabaka la utekelezaji kabla ya kuweka kikamilifu. Kupanua sera hizi kwa mamia ya mawakala kutahitaji juhudi maalum za kiutendaji ili kuweka sheria zikiwa za kisasa wakati mifano inavyobadilika.

Tahadhari na upinzani

Wakosoaji wanabainisha kuwa CUSTODY haitengenezi sera kiotomatiki; timu za usalama lazima ziziandae kwa mkono, jambo ambalo linaweza kuhitaji nguvu nyingi. Pia kuna hatari ya kuongezeka kwa mzigo wa utendaji (performance overhead) ikiwa kila simu itakaguliwa kwa wakati halisi, hasa kwa huduma za inference zenye kasi kubwa. Hatimaye, ufanisi wa mfumo unategemea upokeaji mpana—ikiwa jukwaa la AI la muuzaji haliwezi kutoa viunganishi (hooks) muhimu, udhibiti wa CUSTODY unaweza kupuuzwa.

Nini cha kufuatilia baadaye

  • Majibu ya muuzaji – ikiwa watoa majukwaa makubwa ya AI wataweka viunganishi vinavyoendana na CUSTODY au kutoa injini zao wenyewe za sera za wakati wa utendaji.
  • Usanifishaji (Standardisation) – hatua yoyote kuelekea kanuni za viwango vya sekta kwa ruhusa za AI agent inaweza kuifanya CUSTODY kuwa msingi wa kawaida (de-facto baseline).
  • Maoni ya jamii – watumiaji wa mapema wataonyesha ugumu wa sera katika ulimwengu halisi na athari za utendaji, wakichangia katika matoleo ya baadaye.

Mashirika yanayotegemea AI agents yanapaswa kutathmini CUSTODY sasa, yaainishe mahali inapofaa katika mfumo wao wa usalama, na kuanza majaribio ya sera kabla ya wimbi lijalo la mashambulizi yanayoendeshwa na AI kuipiga mitandao yao.