ರಿಟ್ರಿವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ (RAG) ಇನ್ಶೂರೆನ್ಸ್ ಅಂಡರ್ರೈಟಿಂಗ್ ಕೋಪೈಲಟ್ಗಳು ಇತ್ತೀಚಿನ ಪಾಲಿಸಿ ನಿಯಮಗಳು, ಪ್ರಕರಣದ ತೀರ್ಪುಗಳು ಮತ್ತು ನಿಯಂತ್ರಕ ಮಾರ್ಗಸೂಚಿಗಳನ್ನು ನೇರವಾಗಿ ನಿರ್ವಹಣಾ ದಾಖಲೆ ಸಂಗ್ರಹದಿಂದ (managed document store) ಪಡೆಯಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಆದರೆ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಆ ಸತ್ಯಗಳನ್ನು ಮಾಡೆಲ್ನ ತೂಕಗಳಲ್ಲಿ (weights) ಅಳವಡಿಸಿ, ಮುಂದಿನ ದುಬಾರಿ ಮರು-ತರಬೇತಿ ಚಕ್ರದವರೆಗೆ ಅವುಗಳನ್ನು ಸ್ಥಿರಗೊಳಿಸುತ್ತದೆ. ನಿಖರತೆ ಅತ್ಯಗತ್ಯವಾಗಿರುವ ಕ್ಷೇತ್ರದಲ್ಲಿ, ಅಗತ್ಯವಿದ್ದಾಗ ಮೂಲವನ್ನು ಉಲ್ಲೇಖಿಸುವ ಸಾಮರ್ಥ್ಯವು ಒಂದು ಉಪಯುಕ್ತ ಸಹಾಯಕನನ್ನೇ ಮತ್ತು ಹೊಣೆಗಾರಿಕೆಯನ್ನೇ (liability) ಪ್ರತ್ಯೇಕಿಸುತ್ತದೆ.
ಈ ಚರ್ಚೆ ಈಗ ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ
ನಿಯಮಗಳು "ತಿಳಿಯಲಿ" ಎಂಬ ಉದ್ದೇಶದಿಂದ ಆಂತರಿಕ ಕೈಪಿಡಿಗಳ ಸಂಗ್ರಹದ ಮೇಲೆ ಸಾಮಾನ್ಯ LLM ಅನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡುವುದು ಒಂದು ಆಕರ್ಷಕ ಆಯ್ಕೆಯಾಗಿ ಕಾಣಿಸಬಹುದು. ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಶೈಲಿ, ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಆದ್ಯತೆಗಳು ಮತ್ತು ಕಾರ್ಯವಿಧಾನದ ಹಂತಗಳನ್ನು ಅಳವಡಿಸುತ್ತದೆ, ಆದರೆ ಇದು ಸ್ಥಿರ ಜ್ಞಾನವನ್ನು ಮಾಡೆಲ್ನ ಪ್ಯಾರಾಮೀಟರ್ಗಳಲ್ಲಿಯೂ ಅಳವಡಿಸುತ್ತದೆ. ಯಾವುದೇ ಬದಲಾವಣೆ—ಹೊಸ ಉತ್ಪನ್ನದ ಬಿಡುಗಡೆ, ನವೀಕರಿಸಿದ ನಿಯಮ ಅಥವಾ ನಿಯಂತ್ರಕರು ನೀಡಿದ ಮಾರ್ಗಸೂಚಿ—ಹೊಸ ತರಬೇತಿಯನ್ನು ಬಯಸುತ್ತದೆ.
ರಿಟ್ರಿವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ (RAG) ಆ ಅಡಚಣೆಯನ್ನು ತಪ್ಪಿಸುತ್ತದೆ. LLM "ಸಣ್ಣದಾಗಿ" (thin) ಇರುತ್ತದೆ: ಇದು ಭಾಷೆ, ತರ್ಕ ಮತ್ತು ಔಟ್ಪುಟ್ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಅನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ, ಆದರೆ ಪ್ರತ್ಯೇಕ ಸರ್ಚ್ ಇಂಜಿನ್ ಬಳಕೆದಾರರ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುವ ಇತ್ತೀಚಿನ ದಾಖಲೆಗಳನ್ನು ತರುತ್ತದೆ. ಮಾಡೆಲ್ ಅನ್ನು ಪಡೆಯಲಾದ ಪಠ್ಯದಿಂದಲೇ ಉತ್ತರಿಸಬೇಕು ಮತ್ತು ಉಲ್ಲೇಖವನ್ನು (citation) ಲಗತ್ತಿಸಬೇಕು. ಸಂಬಂಧಿತ ಮೂಲ ಇಲ್ಲದಿದ್ದರೆ, ಸಿಸ್ಟಮ್ "ನನ್ನ ಬಳಿ ಆ ಮಾಹಿತಿ ಇಲ್ಲ" ಎಂದು ಉತ್ತರಿಸುತ್ತದೆ. ಆಡಿಟರ್ಗಳು ಸ್ಪಷ್ಟವಾದ ಆಡಿಟ್ ಟ್ರೈಲ್ ಅನ್ನು ಬಯಸುವ ಅಂಡರ್ರೈಟಿಂಗ್ ಕ್ಷೇತ್ರದಲ್ಲಿ, ಈ ವರ್ತನೆಯು ಕೇವಲ ಅನುಕೂಲಕ್ಕಾಗಿ ಅಲ್ಲ; ಇದು ಅನುಸರಣೆಯ (compliance) ಅಗತ್ಯತೆಯಾಗಿದೆ.
ಈ ಎರಡು ವಿಧಾನಗಳು ಪ್ರಾಯೋಗಿಕವಾಗಿ ಹೇಗೆ ಭಿನ್ನವಾಗಿವೆ
| ಕಾರ್ಯ | ಫೈನ್-ಟ್ಯೂನಿಂಗ್ | ರಿಟ್ರಿವಲ್ |
|---|---|---|
| ಮಾರ್ಗಸೂಚಿಯನ್ನು ನವೀಕರಿಸುವುದು | ಪರಿಷ್ಕೃತ ಪಠ್ಯದೊಂದಿಗೆ ಮಾಡೆಲ್ ಅನ್ನು ಮರು-ತರಬೇತಿ ಮಾಡುವುದು | ಇಂಡೆಕ್ಸ್ನಲ್ಲಿ ದಾಖಲೆಯನ್ನು ಬದಲಾಯಿಸಿ ಅಥವಾ ಎಡಿಟ್ ಮಾಡಿ |
| ಉತ್ತರವನ್ನು ವಿವರಿಸುವುದು | ಅಂತರ್ಗತ ಟ್ರೇಸಿಬಿಲಿಟಿ ಇಲ್ಲ | ನಿಖರವಾದ ಮೂಲದ ID ಅನ್ನು ಉಲ್ಲೇಖಿಸಿ |
| ಮುಂದಿನ ವಾರ ಹೊಸ ಉತ್ಪನ್ನವನ್ನು ಸೇರಿಸುವುದು | ಹೊಸ ತರಬೇತಿ ಅಗತ್ಯ | ಉತ್ಪನ್ನದ ವಿವರಗಳನ್ನು ಇಂಡೆಕ್ಸ್ ಮಾಡಿ ಮತ್ತು ತಕ್ಷಣವೇ ಬಳಸಲು ಪ್ರಾರಂಭಿಸಿ |
| ತಪ್ಪು ಸತ್ಯವನ್ನು ಸರಿಪಡಿಸುವುದು | ತೂಕದ ಬದಲಾವಣೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿ, ಮರು-ತರಬೇತಿ ಮಾಡಿ | ಮೂಲ ದಾಖಲೆಯನ್ನು ಎಡಿಟ್ ಮಾಡಿ; ಮುಂದಿನ ಪ್ರಶ್ನೆಯು ತಿದ್ದುಪಡಿಯನ್ನು ನೋಡುತ್ತದೆ |
ಈ ವ್ಯತ್ಯಾಸವು ಸ್ಪಷ್ಟವಾಗಿದೆ. ಜ್ಞಾನದ ತಳಹದಿಯು ಸ್ಥಿರವಾಗಿದ್ದಾಗ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ "ಸೆಟ್-ಅಂಡ್-ಫಾರ್ಗೆಟ್" (set-and-forget) ವಿಧಾನವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ರಿಟ್ರಿವಲ್ ಜ್ಞಾನದ ತಳಹದಿಯನ್ನು ನಿಮಿಷಗಳಲ್ಲಿ ಎಡಿಟ್ ಮಾಡಬಹುದಾದ ಜೀವಂತ ಲೈಬ್ರರಿಯಾಗಿ ಪರಿಗಣಿಸುತ್ತದೆ, ಇಲ್ಲಿ LLM ಸರಿಯಾದ ಫೈಲ್ ಅನ್ನು ತರುವ ನುರಿತ ವಿಶ್ಲೇಷಕನಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.
ಅಂಡರ್ರೈಟಿಂಗ್ ಕೋಪೈಲಟ್ ವರ್ಕ್ಫ್ಲೋ
- ಬಳಕೆದಾರರು ಪ್ರಶ್ನೆ ಕೇಳುತ್ತಾರೆ – ಉದಾಹರಣೆಗೆ, "ಮಧ್ಯಮ ಗಾತ್ರದ SaaS ಪ್ರೊವೈಡರ್ಗೆ ಸೈಬರ್ ಲೈಬಿಲಿಟಿಗಾಗಿ ಯಾವ ಕವರೇಜ್ ಮಿತಿಗಳು ಅನ್ವಯಿಸುತ್ತವೆ?"
- ಸಿಸ್ಟಮ್ ಹುಡುಕುತ್ತದೆ – ಪಾಲಿಸಿ ರೆಪೊಸಿಟರಿ, ನಿಯಂತ್ರಕ ಡೇಟಾಬೇಸ್ ಮತ್ತು ಹಿಂದಿನ ಪ್ರಕರಣದ ತೀರ್ಪುಗಳನ್ನು ಹುಡುಕುತ್ತದೆ.
- ರಿರ್ಯಾಂಕಿಂಗ್ (Reranking) – ಅತ್ಯಂತ ಪ್ರಸ್ತುತವಾದ ಭಾಗಗಳನ್ನು ಆರಿಸಿ ಮತ್ತು ಅವುಗಳಿಗೆ ಮೂಲ ಗುರುತಿಸುವಿಕೆಗಳನ್ನು (source identifiers) ಟ್ಯಾಗ್ ಮಾಡುತ್ತದೆ.
- LLM ಉತ್ತರವನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ – ಆ ಪಠ್ಯಭಾಗಗಳಿಂದ ಮಾತ್ರ ಉತ್ತರವನ್ನು ಪಡೆಯುತ್ತದೆ.
- ಪ್ರತಿಕ್ರಿಯೆಯಲ್ಲಿ ಉಲ್ಲೇಖಗಳು ಇರುತ್ತವೆ – ಇದು ಅಂಡರ್ರೈಟರ್ಗೆ ಉತ್ತರವನ್ನು ತಕ್ಷಣವೇ ಪರಿಶೀಲಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
ಒಂದು ನಿಯಮವು ಪ್ರಾಮಾಣಿಕತೆಯನ್ನು ಎತ್ತಿಹಿಡಿಯುತ್ತದೆ: ಮಾಡೆಲ್ ತನ್ನ ಆಂತರಿಕ ನೆನಪಿನಿಂದ ಭ್ರಮೆ ಮಾಡಬಾರದು (hallucinate). ಪಡೆಯಲಾದ ಮಾಹಿತಿಯಲ್ಲಿ ಉತ್ತರ ಇಲ್ಲದಿದ್ದರೆ, ಸಿಸ್ಟಮ್ ತನ್ನ ಅಜ್ಞಾನವನ್ನು ಒಪ್ಪಿಕೊಳ್ಳಬೇಕು. ಈ ನಿಯಮವು ನಿಯಂತ್ರಿತ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಹಿಂದಿನ AI ಪೈಲಟ್ಗಳನ್ನು ಕಾಡಿದ್ದ ಆತ್ಮವಿಶ್ವಾಸದ ಅಂದಾಜುಗಳನ್ನು (confident guesses) ತಪ್ಪಿಸುತ್ತದೆ.
ರಿಟ್ರಿವಲ್ ಏಕೆ ಗೆಲ್ಲುತ್ತದೆ
- ತಾಜಾತನ (Freshness) – ಪಾಲಿಸಿ ದಾಖಲೆಯನ್ನು ಅಪ್ಡೇಟ್ ಮಾಡಿದ ತಕ್ಷಣ, ಇಂಡೆಕ್ಸ್ ಬದಲಾವಣೆಯನ್ನು ಪ್ರತಿಫಲಿಸುತ್ತದೆ. ಮುಂದಿನ ತರಬೇತಿ ಅವಧಿಗಾಗಿ ಕಾಯುವ ಅಗತ್ಯವಿಲ್ಲ.
- ಆಡಿಟಿಂಗ್ ಸಾಮರ್ಥ್ಯ (Auditability) – ಪ್ರತಿಯೊಂದು ಔಟ್ಪುಟ್ ಕೂಡ ಒಂದು ನಿರ್ದಿಷ್ಟ ಮೂಲವನ್ನು ತೋರಿಸುತ್ತದೆ, ಇದು "ಏನು" ಜೊತೆಗೆ "ಏಕೆ" ಎಂದು ಕೇಳುವ ನಿಯಂತ್ರಕರಿಗೆ ತೃಪ್ತಿ ನೀಡುತ್ತದೆ.
- ವೆಚ್ಚ (Cost) – ದಾಖಲೆಯನ್ನು ಎಡಿಟ್ ಮಾಡಲು ನಿಮಿಷಗಳು ಸಾಕು; ಪೂರ್ಣ ಮಾಡೆಲ್ ಮರು-ತರಬೇತಿಯು ಒಂದು ಬೃಹತ್ ಯೋಜನೆಯಾಗಿದೆ.
- ನಿಯಂತ್ರಣ (Control) – ಜ್ಞಾನದ ಮಾಲೀಕರು ತೂಕದ ಹೊಂದಾಣಿಕೆಗಳು ಉದ್ದೇಶಿತವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತವೆ ಎಂದು ಭಾವಿಸುವ ಬದಲು, ತಾವು ಈಗಾಗಲೇ ವರ್ಷನಿಂಗ್ ಮತ್ತು ಆಕ್ಸೆಸ್ ಕಂಟ್ರೋಲ್ಗಾಗಿ ಬಳಸುವ ಡಾಕ್ಯುಮೆಂಟ್ ಸ್ಟೋರ್ ಅನ್ನು ನಿರ್ವಹಿಸಬಹುದು.
ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಯಾವಾಗ ಉಪಯುಕ್ತವಾಗುತ್ತದೆ
"ಏನು" ಹೇಳುವ ಬದಲು "ಹೇಗೆ" ಹೇಳಬೇಕು ಎಂಬ ಕಾರ್ಯಗಳಿಗೆ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಹೆಚ್ಚು ಸೂಕ್ತವಾಗಿದೆ. ಅಂಡರ್ರೈಟಿಂಗ್ ಕೋಪೈಲಟ್ ಒಂದು ನಿರ್ದಿಷ್ಟ ಶೈಲಿಯಲ್ಲಿ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ನೀಡಬೇಕಾದಲ್ಲಿ, ಕಟ್ಟುನಿಟ್ಟಾದ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಟೆಂಪ್ಲೇಟ್ ಅನ್ನು ಅನುಸರಿಸಬೇಕಾದಲ್ಲಿ ಅಥವಾ ವಿಶೇಷ ತರ್ಕದ ಮಾದರಿಯನ್ನು (ಉದಾಹರಣೆಗೆ, ರಿಸ್ಕ್ ಸ್ಕೋರಿಂಗ್ ಲೆಕ್ಕಾಚಾರಗಳು) ನಿರ್ವಹಿಸಬೇಕಾದಲ್ಲಿ, ಸಣ್ಣ ಪ್ರಮಾಣದ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಆ ವರ್ತನೆಗಳನ್ನು ಅಳವಡಿಸಬಹುದು. ಆದರೆ ವಾಸ್ತವಿಕ ಮಾಹಿತಿಯ ಪದರವನ್ನು (factual layer) ಹೊರಗೇ ಇರಿಸಿ ಮತ್ತು ಅದನ್ನು ಪ್ರಶ್ನೆಯ ಸಮಯದಲ್ಲಿ ರಿಟ್ರೀವ್ ಮಾಡಿಕೊಳ್ಳಿ.
ಸಾರಾಂಶ
ಇನ್ಶೂರೆನ್ಸ್ ಅಂಡರ್ರೈಟಿಂಗ್ನಲ್ಲಿ, ಆದ್ಯತೆಯು ಕೇವಲ ಸುಲಲಿತವಾದ ಚಾಟ್ಬಾಟ್ ಅಲ್ಲ, ಬದಲಾಗಿ ಪ್ರತಿಯೊಂದು ಶಿಫಾರಸನ್ನು ಬೆಂಬಲಿಸುವ ನಿಖರವಾದ ನಿಯಮ ಅಥವಾ ಪ್ರಕರಣವನ್ನು ತೋರಿಸಬಲ್ಲ ಪಾರದರ್ಶಕ ವಿಶ್ಲೇಷಕನಾಗಿರಬೇಕು. ರಿಟ್ರಿವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ (RAG) ಆ ಪಾರದರ್ಶಕತೆಯನ್ನು ನೀಡುತ್ತದೆ, ಕನಿಷ್ಠ ಪ್ರಯತ್ನದೊಂದಿಗೆ ಅಪ್ಡೇಟ್ ಆಗಿರುತ್ತದೆ ಮತ್ತು ನಿರಂತರ ಮಾಡೆಲ್ ಮರು-ತರಬೇತಿಯ ಭಾರೀ ವೆಚ್ಚವನ್ನು ತಪ್ಪಿಸುತ್ತದೆ. ಶೈಲಿ ಮತ್ತು ತರ್ಕವನ್ನು ರೂಪಿಸಲು ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಬಳಸಿ; ಸತ್ಯಗಳನ್ನು ಒದಗಿಸಲು ರಿಟ್ರಿವಲ್ ಅನ್ನು ಬಳಸಲು ಬಿಡಿ, ಆಗ ನೀವು ಅಂಡರ್ರೈಟರ್ಗಳಿಗೆ ಅವರು ನಂಬಬಹುದಾದ ಮತ್ತು ನಿಯಂತ್ರಕರು ಆಡಿಟ್ ಮಾಡಬಹುದಾದ ಸಾಧನವನ್ನು ನೀಡುತ್ತೀರಿ.