Open Web Application Security Project ತನ್ನ 2026ರ GenAI LLM Top 10 ಪಟ್ಟಿಯನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ, ಮತ್ತು “Excessive Agency” ಆರನೇ ಸ್ಥಾನದಿಂದ ಮೂರನೇ ಸ್ಥಾನಕ್ಕೆ ಜಿಗಿದಿದೆ. ಈ ಏರಿಕೆಯು ಮುಖ್ಯವಾಗಿದೆ ಏಕೆಂದರೆ ಅತ್ಯಂತ ಅಪಾಯಕಾರಿ ವೈಫಲ್ಯಗಳು ಕೇವಲ ತಪ್ಪು ಔಟ್‌ಪುಟ್‌ಗಳಿಗೆ (bad output) ಸೀಮಿತವಾಗಿಲ್ಲ, ಬದಲಾಗಿ ನಿಮ್ಮ ಮೂಲಸೌಕರ್ಯದ (infrastructure) ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸಬಲ್ಲ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಸಂಬಂಧಿಸಿವೆ ಎಂದು ಇದು ತೋರಿಸುತ್ತದೆ.

ಈ ಬದಲಾವಣೆ ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ

ಮೊದಲ ಬಾರಿಗೆ, Top 10 ಪಟ್ಟಿಯ ಕಾಲು ಭಾಗದಷ್ಟು ದತ್ತಾಂಶವು ನೈಜ ಘಟನೆಗಳಿಂದ ಬಂದಿದೆ—ಅಂದರೆ ವರದಿಯಾದ 6,000 ಕ್ಕೂ ಹೆಚ್ಚು ಉಲ್ಲಂಘನೆಗಳು (breaches), ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್‌ಗಳು (exploits) ಮತ್ತು ತಪ್ಪು ನಡವಳಿಕೆಗಳು. ಹಿಂದಿನ ಆವೃತ್ತಿಗಳು ಬಹುತೇಕ ಸಂಪೂರ್ಣವಾಗಿ ತಜ್ಞರ ಅಭಿಪ್ರಾಯದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದ್ದವು. ಭಾಷಾ ಮಾದರಿಯು (language model) APIಗಳನ್ನು ಕರೆಯಲು, ಕೋಡ್ ಅನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಅಥವಾ ಹಣವನ್ನು ವರ್ಗಾಯಿಸಲು ಸಾಧ್ಯವಾದಾಗ, ಪರಿಣಾಮಗಳು ಕೇವಲ ಮುಜುಗರ ತರುವ ಪಠ್ಯ ಸೋರಿಕೆಯಿಂದ (text leaks) ಬದಲಾಗಿ ನಿರ್ದಿಷ್ಟ ಕಾರ್ಯಾಚರಣೆಯ ಹಾನಿಯವರೆಗೆ (operational damage) ಬದಲಾಗುತ್ತವೆ ಎಂದು ನೈಜ-ಪ್ರಪಂಚದ ಸಂಕೇತಗಳು ತೋರಿಸುತ್ತವೆ. Prompt injection ಇನ್ನೂ ಪಟ್ಟಿಯ শীর্ষে ಇದೆ, ಅದರ ನಂತರ ಸಂವೇದನಾಶೀಲ ಮಾಹಿತಿ ಬಹಿರಂಗಪಡಿಸುವಿಕೆ (sensitive information disclosure) ಇದೆ, ಆದರೆ ಮೊದಲ ಮೂರರಲ್ಲಿ “Excessive Agency” ಏರಿಕೆಯಾಗಿರುವುದು, ಮುಂದಿನ ದಾಳಿಗಳ ಅಲೆ ಕೇವಲ ಭಾಷಾ ಸಂಬಂಧಿತವಾಗಿರದೆ ಪರಿಕರ-ಸಜ್ಜಿತವಾಗಿರಲಿದೆ (tool-enabled) ಎಂದು ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ತಿಳಿಸುತ್ತದೆ.

“Excessive agency” ಎಂದರೆ ಏನು

Excessive agency ಎಂದರೆ ಒಂದು LLM ಗೆ ಅದು ಹೊಂದಿರಬಾರದ ಸಾಮರ್ಥ್ಯವನ್ನು ನೀಡಿದಾಗ ಅಥವಾ ಸುತ್ತಮುತ್ತಲಿನ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು (guardrails) ನಿಯಂತ್ರಿಸಬಹುದಾದ ಮಟ್ಟಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯವನ್ನು ನೀಡಿದಾಗ ಉಂಟಾಗುವ ಯಾವುದೇ ಪರಿಸ್ಥಿತಿಯನ್ನು ವಿವರಿಸುತ್ತದೆ. ಸಾಮಾನ್ಯ ಉದಾಹರಣೆಗಳು ಹೀಗಿವೆ:

  • ಅನುಮತಿ ಪರಿಶೀಲನೆಯಿಲ್ಲದೆ (permission check) ಆಂತರಿಕ ಮೈಕ್ರೋ-ಸರ್ವಿಸ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳನ್ನು (micro-service endpoints) ಬಳಸುವ ಅಸಿಸ್ಟೆಂಟ್.
  • ಪ್ರೊಡಕ್ಷನ್ ಸರ್ವರ್‌ಗಳಲ್ಲಿ ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ಬರೆಯುವ ಮತ್ತು ಚಲಾಯಿಸುವ ಕೋಡ್-ಜನರೇಷನ್ ಬಾಟ್.
  • ನಿರ್ದಿಷ್ಟವಾಗಿ ರೂಪಿಸಲಾದ ಪ್ರಾಂಪ್ಟ್ (crafted prompt) ನಂತರ ಹಣ ವರ್ಗಾವಣೆಯನ್ನು ಪ್ರಾರಂಭಿಸುವ ಹಣಕಾಸು-ಸ್ವಯಂಚಾಲಿತ ಏಜೆಂಟ್.

ಇಂತಹ ಅಧಿಕಾರಗಳನ್ನು ಹೊಂದಿರುವಾಗ ಒಂದು ದುರುದ್ದೇಶಪೂರಿತ ಪ್ರಾಂಪ್ಟ್ ಮಾದರಿಯನ್ನು ವಂಚಿಸಿದರೆ, ಉಲ್ಲಂಘನೆಯು ತಕ್ಷಣವೇ ಸಂಭವಿಸುತ್ತದೆ ಮತ್ತು ಅತಿ ಹೆಚ್ಚು ವೆಚ್ಚದಾಯಕವಾಗಿರುತ್ತದೆ. ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಅನುಸರಿಸುವ ಮಾದರಿಯ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಸುತ್ತಮುತ್ತಲಿನ ನಿಯಂತ್ರಣಗಳ ಕಟ್ಟುನಿಟ್ಟಿನ ನಡುವಿನ ಅಂತರಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಅಪಾಯವು ಹೆಚ್ಚಾಗುತ್ತದೆ.

ಹೊಸ Top 10 ಪಟ್ಟಿಯನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸಲಾಯಿತು

2026ರ ಆವೃತ್ತಿಯು ತಜ್ಞರ ತೀರ್ಪು ಮತ್ತು ಕಠಿಣ ದತ್ತಾಂಶವನ್ನು (hard data) ಒಳಗೊಂಡಿದೆ. ಶ್ರೇಯಾಂಕದ ಸುಮಾರು 25% ರಷ್ಟು ಭಾಗವು ಮೇಲೆ ತಿಳಿಸಲಾದ ಘಟನೆಗಳ ಮೂಲದಿಂದ ಬಂದಿದೆ, ಇದು ವಾಸ್ತವದಲ್ಲಿ ಸಂಭವಿಸಿದ ಮಾದರಿಗಳಿಗೆ ಹೆಚ್ಚಿನ ಪ್ರಾಮುಖ್ಯತೆಯನ್ನು ನೀಡುತ್ತದೆ. ಈ ವಿಧಾನದ ಬದಲಾವಣೆಯು “Excessive Agency” ಏಕೆ ತೀವ್ರವಾಗಿ ಏರಿತು ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ: ಮಾದರಿಯು ಕೇವಲ ಪಠ್ಯವನ್ನು ನೀಡುವ ಬದಲು ಒಂದು ಕ್ರಿಯೆಯನ್ನು (action) ಮಾಡಿದ ಘಟನೆಗಳಲ್ಲಿ ಸ್ಪಷ್ಟವಾದ ಏರಿಕೆಯನ್ನು ದತ್ತಾಂಶವು ತೋರಿಸುತ್ತದೆ.

ಇತರ ಗಮನಾರ್ಹ ಬದಲಾವಣೆಗಳು

  • Hidden Context Exposure (“System Prompt Leakage” ಎಂಬುದರ ಬದಲಾಗಿ ಮರುನಾಮಕರಣ ಮಾಡಲಾಗಿದೆ) ವ್ಯಾಪಕವಾದ ಸಂವೇದನಾಶೀಲ ಡೇಟಾವನ್ನು ಒಳಗೊಳ್ಳಲು ಏರಿಕೆಯಾಗಿದೆ, ಇದು ದಾಳಿಕೋರರು ರಹಸ್ಯಗಳಿಗಾಗಿ ಮಾದರಿಯ ಸಂದರ್ಭವನ್ನು (model context) ಹೆಚ್ಚು ಹೆಚ್ಚು ಬಳಸಿಕೊಳ್ಳುತ್ತಿದ್ದಾರೆ ಎಂಬುದನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ.
  • Improper Output Handling ಹತ್ತನೇ ಸ್ಥಾನಕ್ಕೆ ಇಳಿದಿದೆ, ಇದು ಸಂಸ್ಥೆಗಳು ಮಾದರಿಯ ಕಚ್ಚಾ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು (raw model responses) ಶುದ್ಧೀಕರಿಸುವಲ್ಲಿ (sanitising) ಉತ್ತಮಗೊಳ್ಳುತ್ತಿವೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ. ಉದ್ಯಮದ ಗಮನವು “ಮಾದರಿಯು ಏನೋ ಕೆಟ್ಟದನ್ನು ಹೇಳಿತು” ಎಂಬುದರಿಂದ “ಮಾದರಿಯು ಏನೋ ಕೆಟ್ಟದನ್ನು ಮಾಡಿತು” ಎಂಬುದಕ್ಕೆ ಬದಲಾಗುತ್ತಿದೆ.

ಈ ಬದಲಾವಣೆಗಳು ಬೆದರಿಕೆಯ ವ್ಯಾಪ್ತಿಯು ಸ್ಥಿರ ಔಟ್‌ಪುಟ್‌ಗಳಿಂದ (static outputs) ಕ್ರಿಯಾತ್ಮಕ ನಡವಳಿಕೆಗಳವರೆಗೆ (dynamic behaviors) ವಿಸ್ತರಿಸುತ್ತಿದೆ ಎಂಬ ವಾದವನ್ನು ಬಲಪಡಿಸುತ್ತವೆ.

ಅಪಾಯವನ್ನು ತಗ್ಗಿಸುವುದು ಹೇಗೆ

ಭದ್ರತಾ ತಂಡಗಳು ಮೂರು ಪ್ರಾಯೋಗಿಕ ಹಂತಗಳ ಮೂಲಕ excessive agency ಅನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಪ್ರಾರಂಭಿಸಬಹುದು:

  1. ನಿಮ್ಮ ಪರಿಕರಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ನಿರ್ಧರಿಸಿ (Scope your tools) – ಪ್ರತಿಯೊಂದು ಏಜೆಂಟ್‌ಗೆ ಅದರ ನಿರ್ದಿಷ್ಟ ಕೆಲಸಕ್ಕೆ ಅಗತ್ಯವಿರುವ ಕ್ರಿಯೆಗಳನ್ನು ಮಾತ್ರ ನಿಯೋಜಿಸಿ. ಅನುಕೂಲಕ್ಕಾಗಿ ಒಂದೇ LLM ಗೆ “ಪೂರ್ಣ ಟೂಲ್‌ಬಾಕ್ಸ್” ನೀಡುವುದನ್ನು ತಪ್ಪಿಸಿ; ಸೂಕ್ಷ್ಮ ಅನುಮತಿಗಳು (granular permissions) ಸಂಕಟಕ್ಕೊಳಗಾದ ಪ್ರಾಂಪ್ಟ್‌ನ ಹಾನಿಯ ವ್ಯಾಪ್ತಿಯನ್ನು (blast radius) ಸೀಮಿತಗೊಳಿಸುತ್ತವೆ.
  2. ಪ್ರಾಂಪ್ಟ್‌ಗಳಲ್ಲಿ ಅಲ್ಲದೆ ಕೋಡ್‌ನಲ್ಲಿ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಿ – ಪರಿಕರವನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವ ಪದರದಲ್ಲಿ (layer) ಸ್ಪಷ್ಟವಾದ ಅನುಮತಿ ಪರಿಶೀಲನೆಗಳು, ದೃಢೀಕರಣ ಗೇಟ್‌ಗಳು ಮತ್ತು ಆಡಿಟ್ ಲಾಗ್‌ಗಳ ಮೇಲೆ ಅವಲಂಬಿಸಿರಿ. ಪ್ರತಿಯೊಂದು ಮಾದರಿ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಯಾವುದೇ ಬಾಹ್ಯ API ಕರೆಯನ್ನು ಮಾಡುವಂತೆಯೇ ಭದ್ರತಾ ಪರಿಶೀಲನೆಯ ಮೂಲಕ ಹಾದುಹೋಗಬೇಕಾದ ನಂಬಿಕೆಗೆ ಅರ್ಹವಲ್ಲದ ವಿನಂತಿಯೆಂದು ಪರಿಗಣಿಸಿ.
  3. ಎಲ್ಲಾ ಪರಿಕರಗಳ ಸಂಯೋಜನೆಗಳ ಪಟ್ಟಿಯನ್ನು ತಯಾರಿಸಿ (Inventory all tool combinations) – ಯಾವ ಏಜೆಂಟ್‌ಗಳು ಯಾವ APIಗಳು, ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳು ಅಥವಾ ಹಣಕಾಸಿನ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳನ್ನು ಪ್ರವೇಶಿಸಬಹುದು ಎಂಬುದನ್ನು ದಾಖಲಿಸಿ. ಪಟ್ಟಿಗಿಂತಲೂ ಮುಖ್ಯವಾದುದು ಆ ಸಾಮರ್ಥ್ಯಗಳು ಹೇಗೆ ಪರಸ್ಪರ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು; ಹಾನಿಕಾರಕವಲ್ಲದಂತೆ ಕಾಣುವ ಎರಡು ಪರಿಕರಗಳನ್ನು ಒಟ್ಟಿಗೆ ಬಳಸಿದಾಗ ಅವು ಅಪಾಯಕಾರಿಯಾಗಬಹುದು.

ನವೀಕರಿಸಿದ Top 10 ಪ್ರತಿಯೊಂದು ಅಪಾಯವನ್ನು ಪ್ರಮುಖ ಎಂಟರ್‌ಪ್ರೈಸ್ ಭದ್ರತಾ ಮಾನದಂಡಗಳಿಗೆ (enterprise security standards) ಹೊಂದಿಸುತ್ತದೆ, ಇದು ರಕ್ಷಕರಿಗೆ ಅನುಸರಣೆ (compliance) ಮತ್ತು ಆಡಿಟ್ ತಂಡಗಳೊಂದಿಗೆ ಪರಿಹಾರಗಳ ಬಗ್ಗೆ ಚರ್ಚಿಸಲು ಸಾಮಾನ್ಯ ಭಾಷೆಯನ್ನು ನೀಡುತ್ತದೆ.

ವಿರೋಧಾತ್ಮಕ ಅಂಶ: ಅಪಾಯವನ್ನು ಅತಿಯಾಗಿ ಹೇಳಲಾಗಿದೆಯೇ?

ಕೆಲವು ತಜ್ಞರು “excessive agency” ಎಂಬುದು ಜನರೇಟಿವ್ AI ಯಲ್ಲಿನ ಅಂತರ್ಗತ ದೋಷಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ ಕಳಪೆ ವಿನ್ಯಾಸದ ಆಯ್ಕೆಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ ಎಂದು ವಾದಿಸುತ್ತಾರೆ. ಅನಿಯಮಿತ ಪ್ರವೇಶವನ್ನು ನೀಡಿದರೆ ಯಾವುದೇ ಪ್ರೋಗ್ರಾಮಬಲ್ ಸಿಸ್ಟಮ್ ಅನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಳ್ಳಬಹುದು ಮತ್ತು ಬಲವಾದ DevOps ಅಭ್ಯಾಸಗಳು ಈಗಾಗಲೇ ಎತ್ತಿ ತೋರಿಸಲಾದ ಅನೇಕ ಸನ್ನಿವೇಶಗಳನ್ನು ಎದುರಿಸುತ್ತವೆ ಎಂದು ಅವರು ಸೂಚಿಸುತ್ತಾರೆ. ಅನುಮತಿಗಳ ಬಗ್ಗೆ ಶಿಸ್ತು ಅತ್ಯಗತ್ಯವಾಗಿದ್ದರೂ, ದತ್ತಾಂಶ ಆಧಾರಿತ ಅಪಾಯದ ಏರಿಕೆಯು ಅನೇಕ ಸಂಸ್ಥೆಗಳು AI-ವರ್ಧಿತ ಕಾರ್ಯಪ್ರವಾಹಗಳಿಗೆ (AI-augmented workflows) ಆ ಅಭ್ಯಾಸಗಳನ್ನು ಅನ್ವಯಿಸುವಲ್ಲಿ ಇನ್ನೂ ಹಿಂದುಳಿದಿವೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ.

ಮುಂದಿನ ಗಮನಾರ್ಹ ಅಂಶಗಳು

  • ಮುಂದಿನ Top 10 ಪರಿಷ್ಕರಣೆಗಳು – ಹೆಚ್ಚಿನ ಘಟನೆಗಳು ದಾಖಲಾಗುತ್ತಿದ್ದಂತೆ, OWASP ಪಟ್ಟಿ ವಿಕಸನಗೊಳ್ಳುತ್ತಲೇ ಇರುತ್ತದೆ. ವಾರ್ಷಿಕ ಬಿಡುಗಡೆಯನ್ನು ಗಮನಿಸುವುದು ಬೆದರಿಕೆಯ ವಕ್ರರೇಖೆಯು (threat curve) ಎತ್ತ ಸಾಗುತ್ತಿದೆ ಎಂಬುದನ್ನು ಊಹಿಸಲು ತಂಡಗಳಿಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ.

ಸಂದೇಶವು ಸ್ಪಷ್ಟವಾಗಿದೆ: ಭಾಷಾ ಮಾದರಿಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಶಕ್ತಿಯನ್ನು ನೀಡುವುದು ಅಗ್ಗವಾಗಿದೆ; ಆದರೆ ಆ ಶಕ್ತಿಯಿಂದ ರಕ್ಷಣೆ ಪಡೆಯುವುದು ದುಬಾರಿಯಾಗಿದೆ. ಮಾದರಿಯ ಫಲಿತಾಂಶವನ್ನು ಅಂತಿಮ ತೀರ್ಪಿನಂತೆ ಪರಿಗಣಿಸದೆ, ಕೇವಲ ಒಂದು ವಿನಂತಿಯಂತೆ ಪರಿಗಣಿಸುವ ಸಂಸ್ಥೆಗಳು, ಉದಯಿಸುತ್ತಿರುವ ಟೂಲ್-ಸಜ್ಜಿತ ದಾಳಿಗಳ ಅಲೆಗಿಂತ ಮುಂಚಿತವಾಗಿ ಇರುತ್ತವೆ.