Mtafiti wa usalama alionyesha kuwa kituo cha LLM chenye nia mbaya kinaweza kuteka wakala wa uandishi wa kodi unaoendeshwa na AI na kuiba faili za ndani. Katika uthibitisho wa dhana, msaidizi wa uandishi wa kodi alipakia kikao cha 224 KB—orodha za diziti, orodha za zana, na maudhui ya faili za siri—kwenda kwenye API bandia "inayooana na DeepSeek" iliyotangazwa miongoni mwa mifumo ya bure ya AI back-ends.

Jinsi utekaji unavyofanya kazi

Skana kwanza ziligundua honeypot ya LLM iliyo wazi. Washambuliaji walibadilisha chapa ya honeypot hiyo kuwa kituo halali cha DeepSeek na kuitaja pamoja na huduma nyingine za bure. Wakala wa uandishi wa kodi wa msanidi programu unapochagua kituo hiki kwa ajili ya ufikiaji wa "bure", modeli hiyo yenye nia mbaya inachukua udhibiti wa mazingira ya wakala. Inatuma maelekezo ya wito wa zana (tool-call instructions) ambayo wakala anayatekeleza bila kuhakiki chanzo vyake. Kisha wakala anarusha data yake ya kikao ya ndani—picha za mfumo wa faili, mipangilio ya zana, na faili zozote zilizofunguliwa—moja kwa moja kwenye seva ya mshambuliaji.

Kwa nini huu ni tishio la mnyororo wa ugavi (supply-chain)

Shambulio hili linapita mtoa huduma wowote wa wingu anayeaminika. Badala yake, linaingiza mfumo wa nyuma wa mantiki (reasoning backend) bandia kwenye mfululizo wa zana (toolchain) za msanidi programu. Watumiaji wanaotafuta ufikiaji wa API bila gharama wanakuwa kiungo dhaifu zaidi bila kujua. Kwa sababu kituo hicho chenye nia mbaya kinaweza kutoa wito wa zana wowote, kinaweza kuiba data yoyote ambayo wakala anaweza kuifikia, na kugeuza mashine ya msanidi programu kuwa njia ya kuvuja kwa data.

Nani yuko hatarini

Mtu yeyote anayetegemea vituo vya nje vya LLM kwa ajili ya wasaidizi wa uandishi wa kodi wa AI—hasa wale wanaotekeleza wito wa zana moja kwa moja—yuko hatarini. Timu ndogo na watu wanaofanya kazi kama hobby wako hatarini zaidi; wanatumia huduma za bure bila ukaguzi mkali. Mashirika ambayo yameunganisha mawakala kama hao kwenye mifumo ya CI/CD yanaweza kuvuja misingi ya kodi ya ndani na faili za mipangilio, jambo linalohatarisha uzingatiaji wa kanuni.

Hatua za kupunguza hatari

  • Hakiki mifumo ya nyuma (back-ends): Unganisha mawakala wa uandishi wa kodi kwenye vituo vya LLM vilivyoundokumenteshwa rasmi na vilivyothibitishwa pekee.
  • Simamia ukaguzi wa wakati wa utendaji (runtime checks): Ongeza tabaka la uhakiki linalokagua maudhui ya wito wa zana (tool-call payloads) kabla hayajafika kwenye mazingira ya utendaji ya ndani.
  • Weka mipaka ya ufikiaji wa faili: Endesha mawakala kwenye makontena ya sandboxed yenye ruhusa za chini kabisa za mfumo wa faili zinazohitajika.
  • Kagua kumbukumbu (Audit logs): Fuatilia kila wakati maombi yanayotoka kwa mawakala ili kuona maeneo yasiyotarajiwa au kiasi kikubwa cha data.

Upande mwingine

Ofa za API za bure hupunguza vikwazo vya maendeleo yanayosaidiwa na AI, na watumiaji wengi hukubali mabadilishano kati ya gharama na usalama. Hata hivyo, kuibiwa kwa faili za siri kulikoonyeshwa kunaonyesha kuwa hatari inaweza kuzidi faida ya kuokoa pesa haraka, hasa wakati kodi ya umiliki au taarifa za siri zinapokuwa hatarini.

Muhtasari: Vituo vya LLM vya bure vina gharama yake—wizi wa data unaoweza kutokea. Kagua kila mfumo wa nyuma (backend) na simamia ulinzi mkali wa wakati wa utendaji kabla ya kuruhusu mawakala wa uandishi wa kodi wa AI kufanya kazi ndani ya mashine yako.

Soma ripoti kamili ya kiufundi kwa maelezo zaidi: https://gridthegrey.com/posts/rogue-llm-endpoint-hijacks-coding-agent-sessions-via-free-api/