એક સુરક્ષા સંશોધકે બતાવ્યું છે કે એક ખતરનાક LLM એન્ડપોઈન્ટ AI-સંચાલિત કોડિંગ એજન્ટને હાઈજેક કરી શકે છે અને સ્થાનિક ફાઇલો ચોરી શકે છે. એક પ્રૂફ-ઓફ-કન્સેપ્ટમાં, કોડિંગ આસિસ્ટન્ટે 224 KB સેશન—ડાયરેક્ટરી લિસ્ટિંગ, ટૂલ મેનિફેસ્ટ અને ખાનગી ફાઇલ સામગ્રી—મફત AI બેક-એન્ડ્સમાં જાહેરાત કરાયેલ નકલી “DeepSeek-સુસંગત” API પર અપલોડ કર્યું હતું.

હાઈજેક કેવી રીતે કામ કરે છે

સ્કેનર્સ દ્વારા સૌ પ્રથમ એક એક્સપોઝ્ડ LLM હોનીપોટ મળી આવ્યો હતો. હુમલાખોરોએ આ હોનીપોટને કાયદેસરના DeepSeek એન્ડપોઈન્ટ તરીકે રી-બ્રાન્ડ કર્યો અને તેને અન્ય મફત સેવાઓ સાથે લિસ્ટ કર્યો. જ્યારે ડેવલપરનો કોડિંગ એજન્ટ "મફત" એક્સેસ માટે આ એન્ડપોઈન્ટ પસંદ કરે છે, ત્યારે તે ખતરનાક મોડેલ એજન્ટના કંટ્રોલ પર કબજો કરી લે છે. તે ટૂલ-કોલ સૂચનાઓ મોકલે છે જેને એજન્ટ તેના સ્ત્રોતની તપાસ કર્યા વિના અમલમાં મૂકે છે. ત્યારબાદ એજન્ટ તેનો આંતરિક સેશન ડેટા—ફાઇલસિસ્ટમ સ્નેપશોટ્સ, ટૂલ કોન્ફિગરેશન અને કોઈપણ ખુલ્લી ફાઇલો—સીધી હુમલાખોરના સર્વર પર સ્ટ્રીમ કરે છે.

આ સપ્લાય-ચેઈન માટે શા માટે ખતરો છે

આ હુમલો કોઈપણ વિશ્વાસપાત્ર ક્લાઉડ પ્રોવાઈડરને બાયપાસ કરે છે. તેના બદલે, તે ડેવલપરના ટૂલચેઈનમાં એક નકલી રીઝનિંગ બેકએન્ડ ઇન્જેક્ટ કરે છે. મફત API એક્સેસ મેળવવાની લાલચ રાખતા વપરાશકર્તાઓ અજાણતામાં સૌથી નબળી કડી બની જાય છે. કારણ કે દૂષિત એન્ડપોઈન્ટ મનસ્વી ટૂલ કોલ્સ કરી શકે છે, તે એજન્ટ જે ડેટા સુધી પહોંચી શકે છે તે તમામ ડેટા ચોરી શકે છે (exfiltrate), જેનાથી ડેવલપરનું મશીન ડેટા-લીકનું માધ્યમ બની જાય છે.

કોણ જોખમમાં છે

કોઈપણ વ્યક્તિ જે AI કોડિંગ આસિસ્ટન્ટ્સ માટે બાહ્ય LLM એન્ડપોઈન્ટ્સ પર નિર્ભર છે—ખાસ કરીને જેઓ આપમેળે ટૂલ કોલ્સ અમલમાં મૂકે છે—તે જોખમમાં છે. નાની ટીમો અને શોખીન લોકો (hobbyists) સૌથી વધુ સંવેદનશીલ છે; તેઓ કડક તપાસ વગર મફત સેવાઓ અપનાવે છે. એન્ટરપ્રાઇઝ જેણે આવા એજન્ટ્સને CI/CD પાઇપલાઇન્સમાં વણી લીધા છે, તેઓ તેમના આંતરિક કોડબેઝ અને કોન્ફિગરેશન ફાઇલો લીક કરી શકે છે, જે કમ્પ્લાયન્સને જોખમમાં મૂકે છે.

નિવારણના પગલાં

  • બેક-એન્ડ્સ ચકાસો: કોડિંગ એજન્ટોને ફક્ત સત્તાવાર રીતે દસ્તાવેજીકૃત અને પ્રમાણિત LLM એન્ડપોઈન્ટ્સ સાથે જ જોડો.
  • રનટાઇમ ચેક્સ લાગુ કરો: એક વેરિફિકેશન લેયર ઉમેરો જે ટૂલ-કોલ પેલોડ્સ સ્થાનિક એક્ઝિક્યુશન એન્વાયરમેન્ટમાં પહોંચે તે પહેલાં તેની તપાસ કરે.
  • ફાઇલ એક્સેસ મર્યાદિત કરો: એજન્ટોને જરૂરી લઘુત્તમ ફાઇલસિસ્ટમ પરમિશન સાથે સેન્ડબોક્સ કરેલા કન્ટેનરમાં ચલાવો.
  • ઓડિટ લોગ્સ: એજન્ટો તરફથી બહાર જતી વિનંતીઓ (outbound requests) અણધારી ડેસ્ટિનેશન અથવા ડેટા વોલ્યુમ માટે સતત મોનિટર કરો.

વિરોધ પક્ષ

મફત API ઓફરિંગ્સ AI-સહાયિત ડેવલપમેન્ટ માટે અવરોધ ઘટાડે છે, અને ઘણા વપરાશકર્તાઓ ખર્ચ અને સુરક્ષા વચ્ચેના સંતુલનને સ્વીકારે છે. તેમ છતાં, ખાનગી ફાઇલોની ચોરી દર્શાવે છે કે જોખમ ઝડપથી બચત કરતા વધી શકે છે, ખાસ કરીને જ્યારે પ્રોપ્રાઇટરી કોડ અથવા ક્રેડેન્શિયલ્સ જોખમમાં હોય ત્યારે.

મુખ્ય વાત: મફત LLM એન્ડપોઈન્ટ્સ એક છુપો ખર્ચ ધરાવે છે—સંભવિત ડેટા ચોરી. AI કોડિંગ એજન્ટોને સ્થાનિક રીતે ચલાવવા દેતા પહેલા દરેક બેકએન્ડની તપાસ કરો અને કડક રનટાઇમ સુરક્ષાના પગલાં અમલમાં મૂકો.

વિગતો માટે સંપૂર્ણ ટેકનિકલ રિપોર્ટ વાંચો: https://gridthegrey.com/posts/rogue-llm-endpoint-hijacks-coding-agent-sessions-via-free-api/