Open Web Application Security Project એ તેનું 2026 GenAI LLM Top 10 બહાર પાડ્યું છે, અને “Excessive Agency” છઠ્ઠા ક્રમથી ત્રીજા ક્રમ પર પહોંચી ગઈ છે. આ ઉછાળો મહત્વનો છે કારણ કે તે દર્શાવે છે કે સૌથી ખતરનાક નિષ્ફળતાઓ હવે માત્ર ખરાબ આઉટપુટ પૂરતી મર્યાદિત નથી, પરંતુ એવા એજન્ટ્સ સુધી વિસ્તરી છે જે તમારા ઇન્ફ્રાસ્ટ્રક્ચર પર કામ કરી શકે છે.
આ ફેરફાર શા માટે મહત્વનો છે
પ્રથમ વખત, Top 10 માં ચોથા ભાગનો ડેટા વાસ્તવિક ઘટનાઓમાંથી લેવામાં આવ્યો છે—જેમાં 6,000 થી વધુ રિપોર્ટેડ બ્રીચ (breaches), એક્સપ્લોઇટ્સ (exploits) અને ગેરવર્તણૂકનો સમાવેશ થાય છે. અગાઉના આવૃત્તિઓ લગભગ સંપૂર્ણપણે નિષ્ણાતોના અભિપ્રાય પર આધારિત હતી. વાસ્તવિક દુનિયાના સંકેતો દર્શાવે છે કે જ્યારે લેંગ્વેજ મોડેલ API કોલ કરી શકે, કોડ એક્ઝિક્યુટ કરી શકે અથવા પૈસાની લેવડદેવડ કરી શકે, ત્યારે પરિણામો માત્ર શરમજનક ટેક્સ્ટ લીકથી બદલાઈને નક્કર ઓપરેશનલ નુકસાન સુધી પહોંચી જાય છે. Prompt injection હજુ પણ યાદીમાં ટોચ પર છે, ત્યારબાદ sensitive information disclosure આવે છે, પરંતુ ટોચના ત્રણમાં “Excessive Agency” નો ઉદય સુરક્ષા ટીમોને જણાવે છે કે હુમલાની આગામી લહેર માત્ર ભાષાકીય (linguistic) હોવાને બદલે ટૂલ-સક્ષમ (tool-enabled) હશે.
“excessive agency” કેવું દેખાય છે
Excessive agency એવી કોઈપણ પરિસ્થિતિનું વર્ણન કરે છે જ્યાં LLM ને એવી ક્ષમતા આપવામાં આવે જે તેની પાસે ન હોવી જોઈએ, અથવા તેની આસપાસના ગાર્ડરેલ્સ (guardrails) જે નિયંત્રિત કરી શકે તેના કરતા વધુ ક્ષમતા આપવામાં આવે. તેના સામાન્ય ઉદાહરણોમાં શામેલ છે:
- એક આસિસ્ટન્ટ જે પરમિશન ચેક વગર આંતરિક micro-service endpoints ને ઇનવોક (invoke) કરે છે.
- એક કોડ-જનરેશન બોટ જે પ્રોડક્શન સર્વર્સ પર સ્ક્રિપ્ટ્સ લખે છે અને ચલાવે છે.
- એક ફાઇનાન્શિયલ-ઓટોમેશન એજન્ટ જે કોઈ ચોક્કસ રીતે તૈયાર કરેલા પ્રોમ્પ્ટ (crafted prompt) પછી ટ્રાન્સફર શરૂ કરે છે.
જો કોઈ માલશિયસ (malicious) પ્રોમ્પ્ટ મોડેલને છેતરે છે જ્યારે તેની પાસે આવી શક્તિઓ હોય છે, તો બ્રીચ તાત્કાલિક અને ઘણીવાર ખર્ચાળ હોય છે. મોડેલની પ્રોમ્પ્ટ અનુસરવાની ક્ષમતા અને આસપાસના નિયંત્રણોની કડકાઈ વચ્ચેના અંતરના પ્રમાણમાં જોખમ વધતું જાય છે.
નવું Top 10 કેવી રીતે બનાવવામાં આવ્યું
2026 ની આવૃત્તિ નિષ્ણાતોના નિર્ણય અને નક્કર ડેટાનું મિશ્રણ છે. રેન્કિંગનો અંદાજે 25% ભાગ અગાઉ જણાવેલ ઇસિડેન્ટ પૂલ (incident pool) માંથી આવે છે, જે વાસ્તવિક દુનિયામાં જોવા મળેલા પેટર્નને મહત્વ આપે છે. આ પદ્ધતિમાં ફેરફાર સમજાવે છે કે શા માટે “Excessive Agency” માં તીવ્ર વધારો થયો: ડેટા એવા બનાવોમાં સ્પષ્ટ વધારો દર્શાવે છે જ્યાં મોડેલે માત્ર ટેક્સ્ટ આપવાને બદલે કોઈ ક્રિયા (action) કરી હતી.
અન્ય નોંધપાત્ર ફેરફારો
- Hidden Context Exposure (“System Prompt Leakage” માંથી નામ બદલીને) સંવેદનશીલ ડેટાના વ્યાપક સેટને આવરી લેવા માટે ઉપર આવે છે, જે દર્શાવે છે કે હુમલાખોરો રહસ્યો શોધવા માટે મોડેલ કોન્ટેક્સ્ટનું વધુને વધુ માઇનિંગ કરી રહ્યા છે.
- Improper Output Handling દસમા ક્રમે જાય છે, જે સૂચવે છે કે સંસ્થાઓ મોડેલના કાચા જવાબોને સેનિટાઇઝ (sanitising) કરવામાં વધુ સારી બની રહી છે. ઉદ્યોગનું ધ્યાન હવે “મોડેલે કંઈક ખરાબ કહ્યું” થી બદલાઈને “મોડેલે કંઈક ખરાબ કર્યું” પર શિફ્ટ થઈ રહ્યું છે.
આ ફેરફારો એ વાતને મજબૂત બનાવે છે કે થ્રેટ સરફેસ (threat surface) સ્થિર આઉટપુટથી બદલાઈને ડાયનેમિક બિહેવિયર્સ (dynamic behaviors) તરફ વિસ્તરી રહી છે.
જોખમ ઘટાડવા માટેના ઉપાયો
સુરક્ષા ટીમો ત્રણ વ્યવહારુ પગલાં સાથે excessive agency ઘટાડવાનું શરૂ કરી શકે છે:
- તમારા ટૂલ્સનો વ્યાપ નક્કી કરો (Scope your tools) – દરેક એજન્ટને તેના ચોક્કસ કામ માટે જરૂરી હોય તેવા જ એક્શન આપો. સુવિધા માટે એક જ LLM ને “ફુલ ટૂલબોક્સ” આપવાનું ટાળો; ગ્રેન્યુલર પરમિશન (granular permissions) કોમ્પ્રોમાઇઝ થયેલા પ્રોમ્પ્ટના નુકસાનના વિસ્તારને (blast radius) મર્યાદિત કરે છે.
- પ્રોમ્પ્ટ્સમાં નહીં, કોડમાં ગાર્ડરેલ્સ બનાવો – જે લેયર ખરેખર ટૂલ એક્ઝિક્યુટ કરે છે તેમાં સ્પષ્ટ પરમિશન ચેક, કન્ફર્મેશન ગેટ્સ અને ઓડિટ લોગ્સ પર આધાર રાખો. દરેક મોડેલ આઉટપુટને અનટ્રસ્ટેડ રિક્વેસ્ટ તરીકે ગણો જેને કોઈપણ એક્સટર્નલ API કોલ જેવી જ સિક્યુરિટી રિવ્યુમાંથી પસાર થવું જોઈએ.
- તમામ ટૂલ કોમ્બિનેશનની ઇન્વેન્ટરી બનાવો – કયા એજન્ટ કયા API, સ્ક્રિપ્ટ્સ અથવા ફાઇનાન્શિયલ એન્ડપોઇન્ટ્સને એક્સેસ કરી શકે છે તેનું દસ્તાવેજીકરણ કરો. યાદી કરતાં પણ વધુ મહત્વનું એ સમજવું છે કે તે ક્ષમતાઓ કેવી રીતે એકબીજા સાથે ક્રિયા કરે છે; જો સાંકળમાં જોડવામાં આવે તો નિર્દોષ દેખાતી ટૂલ્સની જોડી પણ જોખમી બની શકે છે.
અપડેટ કરેલ Top 10 દરેક જોખમને મુખ્ય એન્ટરપ્રાઇઝ સિક્યુરિટી સ્ટાન્ડર્ડ્સ સાથે પણ જોડે છે, જે ડિફેન્ડર્સને કમ્પ્લાયન્સ અને ઓડિટ ટીમો સાથે મિટિગેશન (mitigation) વિશે ચર્ચા કરવા માટે એક સમાન ભાષા આપે છે.
વિરોધ પક્ષ: શું જોખમ વધારે પડતું દર્શાવવામાં આવ્યું છે?
કેટલાક નિષ્ણાતો દલીલ કરે છે કે “excessive agency” એ જનરેટિવ AI માં રહેલી કોઈ આંતરિક ખામીને બદલે માત્ર ખરાબ ડિઝાઇન પસંદગીઓને પ્રતિબિંબિત કરે છે. તેઓ નિર્દેશ કરે છે કે જો અનિયંત્રિત એક્સેસ આપવામાં આવે તો કોઈપણ પ્રોગ્રામેબલ સિસ્ટમનો દુરુપયોગ થઈ શકે છે, અને મજબૂત DevOps પદ્ધતિઓ પહેલેથી જ હાઇલાઇટ કરેલા ઘણા કિસ્સાઓને સંબોધિત કરે છે. જોકે પરમિશન અંગે શિસ્ત અનિવાર્ય છે, જોખમમાં ડેટા-આધારિત વધારો સૂચવે છે કે ઘણી સંસ્થાઓ હજુ પણ AI-ઓગમેન્ટેડ વર્કફ્લોમાં તે પદ્ધતિઓ લાગુ કરવામાં પાછળ છે.
આગળ શું જોવું
- Top 10 માં વધુ સુધારાઓ – જેમ જેમ વધુ ઘટનાઓ નોંધાશે, તેમ તેમ OWASP યાદી સતત વિકસતી રહેશે. વાર્ષિક રિલીઝ પર નજર રાખવાથી ટીમોને જોખમ કઈ દિશામાં જઈ રહ્યું છે તેનો અંદાજ લગાવવામાં મદદ મળશે.
સંદેશ સ્પષ્ટ છે: લેંગ્વેજ મોડેલને કાર્ય કરવાની શક્તિ આપવી સસ્તી છે; તે શક્તિ સામે રક્ષણ કરવું મોંઘું છે. જે સંસ્થાઓ મોડેલના આઉટપુટને ચુકાદા તરીકે નહીં, પરંતુ વિનંતી તરીકે ગણે છે, તેઓ ટૂલ-સક્ષમ હુમલાઓની ઉભરતી લહેરથી આગળ રહેશે.