ಮಾಡೆಲ್-ಔಟ್‌ಪುಟ್ ಹಂತದಲ್ಲಿ (model-output stage) ಸುರಕ್ಷಿತವಾಗಿದೆ ಎಂದು ಭಾವಿಸಲಾಗಿದ್ದ ಒಂದು AI-ಚಾಲಿತ ಬೆಂಬಲ ವ್ಯವಸ್ಥೆಯು, CRM ದಾಖಲೆಗಳನ್ನು ಪ್ರಾಂಪ್ಟ್‌ಗೆ (prompt) ಒದಗಿಸುವ "ಸೈಡ್ ಡೋರ್" (side door) ಮೂಲಕ ಗ್ರಾಹಕರ ಡೇಟಾವನ್ನು ಸೋರಿಕೆ ಮಾಡುತ್ತಿತ್ತು. ಇದರ ಸೃಷ್ಟಿಕರ್ತನ ಪೋಸ್ಟ್-ಮೋರ್ಟಮ್ (post-mortem) ವಿಶ್ಲೇಷಣೆಯ ಪ್ರಕಾರ, ಮಾಡೆಲ್ ಸೃಷ್ಟಿಸುವ ಪಠ್ಯವನ್ನು ಮಾತ್ರ ರಕ್ಷಿಸುವುದು ಸಾಕಾಗುವುದಿಲ್ಲ – ಇನ್‌ಬೌಂಡ್ ವಿನಂತಿ (inbound request), ಆಂತರಿಕ ಪರಿಕರಗಳಿಂದ ಪಡೆದ ಡೇಟಾ ಮತ್ತು ಅಂತಿಮ ಎಮಿಷನ್ (final emission) ಎಲ್ಲವೂ ಸ್ವತಂತ್ರ ರಕ್ಷಣಾ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹೊಂದಿರಬೇಕು; ಇಲ್ಲದಿದ್ದರೆ, ಮಾಡೆಲ್-ಔಟ್‌ಪುಟ್ ಸೋರಿಕೆಯಾಗದಿದ್ದರೂ ಸಹ ಒಂದು ವ್ಯವಹಾರವು ಹೆಸರುಗಳು, ಇಮೇಲ್‌ಗಳು ಮತ್ತು ಐಡಿಗಳನ್ನು (IDs) ಬಹಿರಂಗಪಡಿಸಬಹುದು.

ಮೂರು ಗಡಿಗಳು ಏಕೆ ಮುಖ್ಯ

ಹೆಚ್ಚಿನ ಆಪರೇಟರ್‌ಗಳು, ಭಾಷಾ ಮಾಡೆಲ್ (language model) ತಾನು ನೋಡಿದ ರಹಸ್ಯವನ್ನು ಪುನರಾವರ್ತಿಸಿದಾಗ ಸೋರಿಕೆ ಸಂಭವಿಸುತ್ತದೆ ಎಂದು ಭಾವಿಸುತ್ತಾರೆ. ಆದರೆ ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಮಾಡೆಲ್ ಡೇಟಾವನ್ನು ನೋಡುವ ಮೊದಲೇ ದೊಡ್ಡ ಮಟ್ಟದ ಅಪಾಯ ಸಂಭವಿಸುತ್ತದೆ. ಒಂದು AI ಏಜೆಂಟ್ ಮೂರು ರೀತಿಯ ಮಾಹಿತಿಯನ್ನು ಪಡೆಯುತ್ತದೆ:

  • Ingress – ಗ್ರಾಹಕರು ಟೈಪ್ ಮಾಡುವ ಮೂಲ ಪ್ರಶ್ನೆ (raw query).
  • Return path – CRM ನಂತಹ ಡೌನ್‌ಸ್ಟ್ರೀಮ್ ಸಿಸ್ಟಮ್‌ಗಳಿಂದ ಏಜೆಂಟ್ ಪಡೆಯುವ ಮಾಹಿತಿ.
  • Emission – ಮಾಡೆಲ್ ಬಳಕೆದಾರರಿಗೆ ಹಿಂತಿರುಗಿಸುವ ಪಠ್ಯ.

ಈ ಸ್ಟ್ರೀಮ್‌ಗಳಲ್ಲಿ ಯಾವುದಾದರೂ ಒಂದರಲ್ಲಿ ಅಸುರಕ್ಷಿತ ಐಡಂಟಿಫೈಯರ್‌ಗಳು (identifiers) ಇದ್ದರೆ, ಔಟ್‌ಪುಟ್ ಲೇಯರ್ ಅನ್ನು ಫಿಲ್ಟರ್ ಮಾಡಿದರೂ ಸಹ, ಏಜೆಂಟ್ ಅರಿಯದೇ ಅವುಗಳನ್ನು ತನ್ನ ಉತ್ತರದಲ್ಲಿ ಸೇರಿಸಬಹುದು.

ಡೆಮೊದಿಂದ ಪ್ರೊಡಕ್ಷನ್‌ಗೆ: ಕಷ್ಟಪಟ್ಟು ಕಲಿತ ಪಾಠಗಳು

ಒಂದು ಪ್ರೊಟೊಟೈಪ್ ಅನ್ನು ಲೈವ್ ಹೆಲ್ಪ್‌ಡೆಸ್ಕ್‌ಗೆ ವರ್ಗಾಯಿಸಿದಾಗ, ಕೇವಲ "ರೆಡ್ಯಾಕ್ಟ್-ದಬೆನ್-ಸೆಂಡ್" (redact-then-send - ಮಾಹಿತಿಯನ್ನು ಮರೆಮಾಚಿ ಕಳುಹಿಸುವುದು) ವಿಧಾನವು ಪತ್ತೆಹಚ್ಚಲು ಸಾಧ್ಯವಾಗದ ಕೆಲವು ವೈಫಲ್ಯಗಳು ಕಂಡುಬಂದವು.

  • ರೆಡ್ಯಾಕ್ಟ್ ಮಾಡುವ ಬದಲು ಟೋಕನೈಸ್ ಮಾಡಿ (Tokenize instead of redact) – ಮಾಡೆಲ್‌ಗೆ ತಲುಪುವ ಮೊದಲೇ ಹೆಸರು ಅಥವಾ ಇಮೇಲ್ ಅನ್ನು ಡಿಲೀಟ್ ಮಾಡುವುದು (redact), ಸಿಸ್ಟಮ್ ಸರಿಯಾದ ಉತ್ತರವನ್ನು ರಚಿಸುವುದನ್ನು ತಡೆಯುತ್ತದೆ. ಮೂಲ ಮೌಲ್ಯವನ್ನು ಸುರಕ್ಷಿತ ವಾಲ್ಟ್‌ನಲ್ಲಿ (secure vault) ಸಂಗ್ರಹಿಸಿ, ಪ್ರಾಂಪ್ಟ್‌ನಲ್ಲಿ ಅದರ ಬದಲಿಗೆ ಯಾದೃಚ್ಛಿಕ UUID ಬಳಸಿ, ನಂತರ ಮಾಡೆಲ್ ಕೆಲಸ ಮುಗಿಸಿದ ನಂತರ UUID ಅನ್ನು ಮರುಪರಿವರ್ತಿಸಿ. ಇದು ಮಾಡೆಲ್‌ನ ಸಂದರ್ಭದಿಂದ (context) ಕಚ್ಚಾ ಡೇಟಾವನ್ನು ದೂರವಿಡುತ್ತದೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಉಳಿಸಿಕೊಳ್ಳುತ್ತದೆ.

  • ಚೆಕ್‌ಸಮ್‌ಗಳೊಂದಿಗೆ ಐಡಂಟಿಫೈಯರ್‌ಗಳನ್ನು ವ್ಯಾಲಿಡೇಟ್ ಮಾಡಿ – ರೆಗ್ಯುಲರ್ ಎಕ್ಸ್‌ಪ್ರೆಶನ್ (regular expression) ಖಾತೆ ಸಂಖ್ಯೆಯಂತೆ ಕಾಣುವ ಸ್ಟ್ರಿಂಗ್ ಅನ್ನು ಗುರುತಿಸುತ್ತದೆ; ಆದರೆ ಚೆಕ್‌ಸಮ್ (checksum) ಅದು ನೈಜ ಐಡಿಯೇ ಎಂದು ಖಚಿತಪಡಿಸುತ್ತದೆ. ಚೆಕ್‌ಸಮ್ ಫಿಲ್ಟರ್, ಏಜೆಂಟ್ ಯಾವುದೇ ಸಂಖ್ಯೆಗಳನ್ನು ಸೂಕ್ಷ್ಮ ಡೇಟಾ ಎಂದು ಪರಿಗಣಿಸದಂತೆ ತಡೆಯುತ್ತದೆ, ಇದರಿಂದ ಅನಗತ್ಯ ರೆಡ್ಯಾಕ್ಷನ್‌ಗಳನ್ನು ತಪ್ಪಿಸಬಹುದು.

  • ಅತಿವ್ಯಾಪಕ ಸ್ಪ್ಯಾನ್‌ಗಳನ್ನು ವಿಲೀನಗೊಳಿಸಿ (Merge overlapping spans) – ಗ್ರಾಹಕರ ದಾಖಲೆಗಳಲ್ಲಿ ಹೆಸರು ಮತ್ತು ಇಮೇಲ್ ವಿಳಾಸವು ಒಂದಕ್ಕೊಂದು ಸಂಬಂಧಿಸಿರಬಹುದು (ಉದಾಹರಣೆಗೆ, “John Doe john.doe@example.com”). ಕೇವಲ ಹೆಸರನ್ನು ಮಾತ್ರ ಟೋಕನೈಸ್ ಮಾಡಿದರೆ, ಇಮೇಲ್‌ನ ಒಂದು ಭಾಗ ಪಠ್ಯದಲ್ಲಿ ಉಳಿಯಬಹುದು, ಅದು ಹೊರಬರಬಹುದು. ಇಡೀ ಅತಿವ್ಯಾಪಕ ಪ್ರದೇಶವನ್ನು ಒಂದೇ ಟೋಕನ್ ಆಗಿ ಪರಿಗಣಿಸಿ.

  • ಸರಿಯಾದ ಗಡಿಯನ್ನು ಪರೀಕ್ಷಿಸಿ (Test the right boundary) – ಕೇವಲ ಎಮಿಷನ್ ಲೇಯರ್ ಅನ್ನು (emission layer) ಮಾತ್ರ ಪರೀಕ್ಷಿಸುವ ಪರೀಕ್ಷೆಯು ಸುಳ್ಳು ಭದ್ರತೆಯ ಭಾವನೆಯನ್ನು ನೀಡುತ್ತದೆ. ರಿಟರ್ನ್ ಪಾತ್‌ನಲ್ಲಿ (return path) ಸೋರಿಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚುವ ವಿಫಲ ಪರೀಕ್ಷೆಯು ಪರಿಹಾರಕ್ಕೆ ದಾರಿ ಮಾಡಿಕೊಡುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಗಡಿಯನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ವ್ಯಾಲಿಡೇಟ್ ಮಾಡುವ ಟೆಸ್ಟ್ ಸೂಟ್‌ಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿ.

  • ಗ್ರೌಂಡ್ ಟ್ರೂತ್ ಅನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಿ (Track ground truth) – ಮನುಷ್ಯರು AI ಸೃಷ್ಟಿಸಿದ ಕರಡನ್ನು ಕಳುಹಿಸುವ ಮೊದಲು ತಿದ್ದಿದಾಗ, ಮಾಡೆಲ್ ಈಗಾಗಲೇ ತಪ್ಪಾದ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ನೀಡಿದೆ ಎಂದರ್ಥ. AI ಕರಡನ್ನು ಮನುಷ್ಯರು ಅನುಮೋದಿಸಿದ ಅಂತಿಮ ಸಂದೇಶದೊಂದಿಗೆ ಹೋಲಿಸುವುದರಿಂದ ವಿಶ್ವಾಸಾರ್ಹತೆಯ ಅಂತರಗಳು ತಿಳಿಯುತ್ತವೆ ಮತ್ತು ಸಿಸ್ಟಮ್ ತಪ್ಪುಗಳನ್ನು ಪುನರಾವರ್ತಿಸುವುದನ್ನು ತಡೆಯುತ್ತದೆ.

ವ್ಯವಹಾರಗಳಿಗೆ ಇರುವ ಅಪಾಯಗಳು

ಗ್ರಾಹಕ ಸೇವಾ AI ಏಜೆಂಟ್‌ಗಳು ಸಾರ್ವಜನಿಕ ಸಂವಹನ ಮತ್ತು ಆಂತರಿಕ ಡೇಟಾ ಸಂಗ್ರಹಗಳ ನಡುವಿನ ಸಂಧಿಸ್ಥಾನದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ.

ವಿರೋಧಾತ್ಮಕ ವಾದ: ಕೆಲವು ಜನರು ಇಂದಿಗೂ ರೆಡ್ಯಾಕ್ಷನ್ ಅನ್ನು ಏಕೆ ಇಷ್ಟಪಡುತ್ತಾರೆ

ತೀರ್ಮಾನ (Takeaway)

AI-ಚಾಲಿತ ಗ್ರಾಹಕ ಸೇವಾ ಏಜೆಂಟ್ ಅನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸುವುದು ಕೇವಲ ಒಂದು ಬಾಗಿಲಿನ ಸಮಸ್ಯೆಯಲ್ಲ. ಇನ್‌ಬೌಂಡ್ ವಿನಂತಿ, ಆಂತರಿಕ ವ್ಯವಸ್ಥೆಗಳಿಂದ ಪಡೆದ ಡೇಟಾ ಮತ್ತು ಔಟ್‌ಬೌಂಡ್ ಪಠ್ಯವನ್ನು ಪ್ರತ್ಯೇಕ ಗೋಡೆಗಳಂತೆ ಪರಿಗಣಿಸಿ; ಯಾವುದಾದರೂ ಒಂದರಲ್ಲಿ ಸೋರಿಕೆಯಾದರೆ ಇಡೀ ಸೇವೆಯು ಅಪಾಯಕ್ಕೆ ಸಿಲುಕುತ್ತದೆ. ಸೂಕ್ಷ್ಮ ಮಾಹಿತಿಯ ಕ್ಷೇತ್ರಗಳನ್ನು ಟೋಕನೈಸ್ ಮಾಡುವುದು, ಐಡಂಟಿಫೈಯರ್‌ಗಳನ್ನು ವ್ಯಾಲಿಡೇಟ್ ಮಾಡುವುದು, ಅತಿವ್ಯಾಪಕ ಸ್ಪ್ಯಾನ್‌ಗಳನ್ನು ವಿಲೀನಗೊಳಿಸುವುದು, ಸರಿಯಾದ ಗಡಿಯನ್ನು ಪರೀಕ್ಷಿಸುವುದು ಮತ್ತು AI ಕರಡುಗಳನ್ನು ಮನುಷ್ಯರು ಸಿದ್ಧಪಡಿಸಿದ ಅಂತಿಮ ಸಂದೇಶಗಳೊಂದಿಗೆ ನಿರಂತರವಾಗಿ ಹೋಲಿಸುವುದು - ಇವು ಒಂದು "ಕೋ-ಪೈಲಟ್" ಅನ್ನು (copilot) ವಿಶ್ವಾಸಾರ್ಹ ಮತ್ತು ಏಜೆಂಟಿಕ್ ಸೇವೆಯನ್ನಾಗಿ ಪರಿವರ್ತಿಸುವ ಪ್ರಾಯೋಗಿಕ ಕ್ರಮಗಳಾಗಿವೆ.