Open Web Application Security Project తన 2026 GenAI LLM Top 10 ని విడుదల చేసింది, ఇందులో “Excessive Agency” ఆరో స్థానం నుండి మూడవ స్థానానికి దూసుకెళ్లింది. ఈ మార్పు చాలా ముఖ్యం, ఎందుకంటే ప్రమాదకరమైన వైఫల్యాలు కేవలం తప్పుడు అవుట్పుట్కు మాత్రమే పరిమితం కాకుండా, మీ ఇన్ఫ్రాస్ట్రక్చర్పై చర్యలు తీసుకోగల ఏజెంట్లకు కూడా విస్తరిస్తున్నాయని ఇది చూపుతోంది.
Why the shift matters
మొదటిసారిగా, ఈ Top 10 డేటాలో నాలుగో వంతు వాటా వాస్తవ సంఘటనల నుండి—6,000 కంటే ఎక్కువ నివేదించబడిన ఉల్లంఘనలు, ఎక్స్ప్లాయిట్లు మరియు తప్పుడు ప్రవర్తనల నుండి—సేకరించబడింది. అంతకుముందు వెర్షన్లు దాదాపు పూర్తిగా నిపుణుల అభిప్రాయాలపై ఆధారపడ్డాయి. భాషా నమూనా (language model) APIలను పిలవగలిగితే, కోడ్ను అమలు చేయగలిగితే లేదా డబ్బును బదిలీ చేయగలిగితే, పరిణామాలు కేవలం ఇబ్బందికరమైన టెక్స్ట్ లీక్ల నుండి ప్రత్యక్షమైన ఆపరేషనల్ నష్టానికి మారుతాయని వాస్తవ ప్రపంచ సంకేతాలు చూపుతున్నాయి. Prompt injection ఇంకా జాబితాలో అగ్రస్థానంలో ఉంది, దాని తర్వాత संवेदनशील సమాచార బహిర్గతం (sensitive information disclosure) ఉంది, కానీ టాప్ మూడులో “Excessive Agency” పెరగడం అనేది, తదుపరి దాడులు కేవలం భాషా సంబంధితమైనవి కాకుండా, టూల్స్ ద్వారా జరిగేవిగా ఉంటాయని సెక్యూరిటీ టీమ్లకు తెలియజేస్తోంది.
What “excessive agency” looks like
Excessive agency అనేది ఒక LLM కి ఉండకూడని సామర్థ్యాన్ని లేదా చుట్టూ ఉన్న రక్షణ కవచాలు (guardrails) నియంత్రించగలిగే దానికంటే ఎక్కువ సామర్థ్యాన్ని ఇచ్చినప్పుడు ఏర్పడే పరిస్థితిని వివరిస్తుంది. సాధారణ ఉదాహరణలు:
- అనుమతి తనిఖీ (permission check) లేకుండా అంతర్గత మైక్రో-సర్వీస్ ఎండ్పాయింట్లను పిలిచే అసిస్టెంట్.
- ప్రొడక్షన్ సర్వర్లపై స్క్రిప్ట్లను రాసి అమలు చేసే కోడ్-జనరేషన్ బాట్.
- ఒక నిర్దిష్ట ప్రాంప్ట్ తర్వాత బదిలీలను (transfers) ప్రారంభించే ఫైనాన్షియల్-ఆటోమేషన్ ఏజెంట్.
ఒక మోసపూరిత ప్రాంప్ట్ (malicious prompt) అటువంటి అధికారాలను కలిగి ఉన్నప్పుడు మోడల్ను మోసం చేస్తే, ఆ ఉల్లంఘన తక్షణమే మరియు తరచుగా ఖరీదైనదిగా ఉంటుంది. మోడల్ ప్రాంప్ట్ను అనుసరించే సామర్థ్యానికి మరియు చుట్టూ ఉన్న నియంత్రణల కఠినత్వానికి మధ్య ఉన్న వ్యత్యాసం పెరిగే కొద్దీ ఈ రిస్క్ కూడా పెరుగుతుంది.
How the new Top 10 was built
2026 ఎడిషన్ నిపుణుల తీర్పును మరియు కఠినమైన డేటాను మిళితం చేస్తుంది. ర్యాంకింగ్లో సుమారు 25% పైన పేర్కొన్న సంఘటనల నుండి సేకరించబడింది, ఇది వాస్తవ ప్రపంచంలో జరిగిన నమూనాలకు ప్రాధాన్యత ఇస్తుంది. ఈ పద్ధతిలో మార్పు వల్ల “Excessive Agency” ఎంత వేగంగా పెరిగిందో అర్థమవుతుంది: మోడల్ కేవలం టెక్స్ట్ను మాత్రమే ఇవ్వకుండా, ఒక చర్యను (action) చేసిన సంఘటనలు డేటాలో స్పష్టంగా పెరిగాయి.
Other notable moves
- Hidden Context Exposure (“System Prompt Leakage” నుండి పేరు మార్చబడింది) విస్తృతమైన సున్నితమైన డేటాను కవర్ చేయడానికి పైకి వచ్చింది, ఇది దాడి చేసేవారు రహస్యాల కోసం మోడల్ కాంటెక్స్ట్ను మరింత ఎక్కువగా వెలికితీస్తున్నారని ప్రతిబింబిస్తుంది.
- Improper Output Handling పదవ స్థానానికి పడిపోయింది, ఇది సంస్థలు ముడి మోడల్ ప్రతిస్పందనలను (raw model responses) శుద్ధి చేయడంలో మెరుగుపడుతున్నాయని సూచిస్తుంది. పరిశ్రమ దృష్టి “మోడల్ ఏదో చెడుగా చెప్పింది” నుండి “మోడల్ ఏదో చెడుగా చేసింది” అనే వైపు మారుతోంది.
ఈ మార్పులు, ముప్పు యొక్క పరిధి (threat surface) స్థిరమైన అవుట్పుట్ల నుండి డైనమిక్ ప్రవర్తనల వైపు విస్తరిస్తోందనే వాస్తవాన్ని బలపరుస్తున్నాయి.
Mitigating the risk
సెక్యూరిటీ టీమ్లు మూడు ఆచరణాత్మక దశలతో excessive agencyని తగ్గించడం ప్రారంభించవచ్చు:
- Scope your tools – ప్రతి ఏజెంట్కు దాని నిర్దిష్ట పనికి అవసరమైన చర్యలను మాత్రమే కేటాయించండి. సౌలభ్యం కోసం ఒకే LLM కి “పూర్తి టూల్బాక్స్” ఇవ్వడాన్ని నివారించండి; గ్రెన్యూలర్ పర్మిషన్లు (granular permissions) ఒకవేళ ప్రాంప్ట్ కాంప్రమైజ్ అయితే దాని ప్రభావ పరిధిని (blast radius) పరిమితం చేస్తాయి.
- Build guardrails in code, not prompts – టూల్ను నిజంగా అమలు చేసే లేయర్లో స్పష్టమైన పర్మిషన్ తనిఖీలు, కన్ఫర్మేషన్ గేట్లు మరియు ఆడిట్ లాగ్లపై ఆధారపడండి. ప్రతి మోడల్ అవుట్పుట్ను ఏదైనా బాహ్య API కాల్ వలెనే సెక్యూరిటీ రివ్యూ చేయవలసిన నమ్మకం లేని రిక్వెస్ట్గా పరిగణించండి.
- Inventory all tool combinations – ఏ ఏజెంట్లు ఏ APIలు, స్క్రిప్ట్లు లేదా ఫైనాన్షియల్ ఎండ్పాయింట్లను యాక్సెస్ చేయగలవో డాక్యుమెంట్ చేయండి. ఆ జాబితా కంటే కూడా, ఆ సామర్థ్యాలు ఎలా పరస్పరం పనిచేస్తాయో అర్థం చేసుకోవడం ముఖ్యం; హానిలేనిట్లు కనిపించే రెండు టూల్స్ కలిపి వాడినప్పుడు ప్రమాదకరంగా మారవచ్చు.
అప్డేట్ చేయబడిన Top 10 ప్రతి రిస్క్ను ప్రధాన ఎంటర్ప్రైజ్ సెక్యూరిటీ ప్రమాణాలతో కూడా అనుసంధానిస్తుంది, ఇది డిఫెండర్లకు కంప్లయన్స్ మరియు ఆడిట్ టీమ్లతో చర్చించడానికి ఒక ఉమ్మడి భాషను అందిస్తుంది.
Counter-point: is the risk overstated?
కొందరు నిపుణులు “excessive agency” అనేది జనరేటివ్ AI లోని అంతర్గత లోపం కంటే, తప్పుడు డిజైన్ ఎంపికల వల్లనే జరుగుతుందని వాదిస్తున్నారు. పరిమితి లేని యాక్సెస్ ఇస్తే ఏ ప్రోగ్రామబుల్ సిస్టమ్నైనా దుర్వినియోగం చేయవచ్చని మరియు బలమైన DevOps పద్ధతులు ఇప్పటికే హైలైట్ చేయబడిన అనేక సినారియోలను పరిష్కరిస్తున్నాయని వారు పేర్కొంటున్నారు. పర్మిషన్ల విషయంలో క్రమశిక్షణ అవసరమే అయినప్పటికీ, డేటా ఆధారిత రిస్క్ పెరుగుదల చూస్తుంటే, చాలా సంస్థలు ఇంకా AI-ఆగ్మెంటెడ్ వర్క్ఫ్లోలకు ఆ పద్ధతులను వర్తింపజేయడంలో వెనుకబడి ఉన్నాయని అర్థమవుతోంది.
What to watch next
- Further Top 10 revisions – మరింత సంఘటనలు నమోదవుతున్న కొద్దీ, OWASP జాబితా నిరంతరం మారుతూ ఉంటుంది. వార్షిక విడుదలను గమనిస్తూ ఉండటం వల్ల ముప్పు ఎటువైపు వెళ్తుందో అంచనా వేయడానికి టీమ్లకు సహాయపడుతుంది.
సందేశం స్పష్టంగా ఉంది: ఒక లాంగ్వేజ్ మోడల్కు పనిచేసే శక్తిని ఇవ్వడం చౌకైనది; ఆ శక్తి నుండి రక్షణ పొందడం ఖరీదైనది. మోడల్ అవుట్పుట్ను ఒక తీర్పుగా కాకుండా, ఒక అభ్యర్థనగా పరిగణించే సంస్థలు, టూల్-ఎనేబుల్డ్ దాడుల పెరుగుతున్న ధోరణికి ముందుంటాయి.