Z.ai ಆಗಸ್ಟ್ 14 ರಂದು ಘೋಷಿಸಿದಂತೆ, ಅದರ ಹೊಸ GLM-5.3 ಮಾಡೆಲ್ ನಿರೀಕ್ಷಿತವಾಗಿ ಮುಕ್ತ ತೂಕಗಳೊಂದಿಗೆ (open weights) ಲಭ್ಯವಾಗುವುದಿಲ್ಲ. ಕಂಪನಿಯು ಈ ಮಾಡೆಲ್ ಅನ್ನು ಇನ್ನೂ ಎರಡು ವಾರಗಳ ಕಾಲ API ಮತ್ತು ಚಂದಾದಾರಿಕೆ ಸೇವೆಯ (subscription service) ಮೂಲಕ ಮಾತ್ರ ಲಭ್ಯವಾಗುವಂತೆ ಮಾಡಲಿದ್ದು, ಸುರಕ್ಷತಾ ಪರಿಶೀಲನೆಯನ್ನು ನಡೆಸುವಾಗ ಸಾರ್ವಜನಿಕ ಡೌನ್‌ಲೋಡ್ ಅನ್ನು ಆಗಸ್ಟ್ 28 ರ ಸುಮಾರಿಗೆ ಮುಂದೂಡಲಾಗಿದೆ. ಮಾಡೆಲ್ ಅನ್ನು ಮುಕ್ತವಾಗಿ ಡೌನ್‌ಲೋಡ್ ಮಾಡಬಹುದಾದರೆ, ಅದರ ಅನಿರೀಕ್ಷಿತವಾಗಿ ಬಲವಾದ ಆಫೆನ್ಸಿವ್-ಸೆಕ್ಯೂರಿಟಿ (offensive-security) ಸಾಮರ್ಥ್ಯಗಳು ಅಂದರೆ ಹಾನಿಕಾರಕ ಉದ್ದೇಶಗಳಿಗಾಗಿ ಬಳಸುವ ಕೌಶಲಗಳನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಳ್ಳುವ ಸಾಧ್ಯತೆ ಇರುವುದರಿಂದ ಈ ವಿಳಂಬವಾಗಿದೆ ಎಂದು Z.ai ಹೇಳಿದೆ.

ಈ ಮುಂದೂಡಿಕೆ ಏಕೆ ಮುಖ್ಯ

GLM-5.3 ಅನ್ನು ಕೋಡಿಂಗ್, ಲಾಂಗ್-ಹರೈಜನ್ ಏಜೆಂಟ್ ಕಾರ್ಯಗಳು (long-horizon agent tasks) ಮತ್ತು ಸೈಬರ್ ಸೆಕ್ಯೂರಿಟಿಯಲ್ಲಿ ಪರಿಣಿತ ಎಂದು ಪರಿಗಣಿಸಲಾಗಿದೆ. ಹಿಂದಿನ ಬಿಡುಗಡೆಗಳಲ್ಲಿ, Z.ai ಮಾಡೆಲ್ ತೂಕಗಳನ್ನು (model weights) ತಕ್ಷಣವೇ ಲಭ್ಯವಾಗುವಂತೆ ಮಾಡಿತ್ತು, ಇದು ತಮ್ಮದೇ ಆದ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ಬಳಸುವ ಡೆವಲಪರ್‌ಗಳನ್ನು ಆಕರ್ಷಿಸಿತ್ತು. ಆದರೆ ಈ ಬಾರಿ, ಡೌನ್‌ಲೋಡ್ ಪುಟದಲ್ಲಿನ ಇನ್‌ಸ್ಟಂಟ್-ಅಕ್ಸೆಸ್ ಲಿಂಕ್ ಬದಲಿಗೆ "Coming Soon" ಬಟನ್ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದು, ಇದು ಮುಕ್ತತೆಯಿಂದ ಎಚ್ಚರಿಕೆಯ ಕಡೆಗೆ ಬದಲಾಗುತ್ತಿರುವುದನ್ನು ಸೂಚಿಸುತ್ತದೆ.

ಆಂತರಿಕ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ಮಾಡೆಲ್ ಅನಿರೀಕ್ಷಿತವಾಗಿ ವೇಗವಾಗಿ ಆಫೆನ್ಸಿವ್ ಸೆಕ್ಯೂರಿಟಿ ಕೌಶಲಗಳನ್ನು ಪಡೆದುಕೊಳ್ಳುತ್ತಿರುವುದು ಕಂಡುಬಂದ ನಂತರ ಸುರಕ್ಷತಾ ತಂಡವು ಈ ಮಾಡೆಲ್ ಬಗ್ಗೆ ಎಚ್ಚರಿಕೆ ನೀಡಿದೆ. ಯಾರೂ ಮಾಡೆಲ್ ತೂಕಗಳನ್ನು ಕಾಪಿ ಮಾಡಿ ಆಫ್‌ಲೈನ್‌ನಲ್ಲಿ ಬಳಸುವ ಮೊದಲು, ದುರುಪಯೋಗದ ಅಪಾಯವನ್ನು ಅಳೆಯಲು ಎರಡು ವಾರಗಳ ಪರಿಶೀಲನೆಯನ್ನು ನಡೆಸುವ ಈ ನಿರ್ಧಾರವನ್ನು Z.ai ಒಂದು ಜವಾಬ್ದಾರಿಯುತ ಕ್ರಮ ಎಂದು ಬಣ್ಣಿಸಿದೆ.

ನಿಯಂತ್ರಿತ ಬಿಡುಗಡೆಗಳತ್ತ ವಿಸ್ತಾರವಾದ ಉದ್ಯಮದ ಬದಲಾವಣೆ

ತನ್ನ ಅತ್ಯಂತ ಸಮರ್ಥ ಏಜೆಂಟ್‌ಗಳ ಪ್ರವೇಶವನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿಸುವಲ್ಲಿ Z.ai ಮಾತ್ರವಲ್ಲ. ಇತರ ಮೂರು ಪ್ರಮುಖ ಲ್ಯಾಬ್‌ಗಳ ಇತ್ತೀಚಿನ ಕ್ರಮಗಳು, ಶಕ್ತಿಯುತವಾದ ಮತ್ತು ಪರಿಕರಗಳನ್ನು ಬಳಸುವ (tool-using) ಮಾಡೆಲ್‌ಗಳ ಅನಿಯಂತ್ರಿತ ವಿತರಣೆಯು ನಿಜವಾದ ಅಪಾಯವನ್ನು ತರುತ್ತದೆ ಎಂಬ ಬೆಳೆಯುತ್ತಿರುವ ಒಮ್ಮತವನ್ನು ತೋರಿಸುತ್ತವೆ.

  • OpenAI ತನ್ನ ಸೈಬರ್ ಸೆಕ್ಯೂರಿಟಿ-ಕೇಂದ್ರಿತ ಮಾಡೆಲ್ ಬಳಸಲು ಈಗ ಗುರುತಿನ ಪರಿಶೀಲನೆಯನ್ನು (identity verification) ಬಯಸುತ್ತದೆ, ಇದರಿಂದ ಅದನ್ನು ಯಾರು ಬಳಸಬಹುದು ಎಂಬ ಮಿತಿ ಇದೆ.
  • Anthropic ತನ್ನ ಇತ್ತೀಚಿನ ಅತ್ಯುತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಯ ಮಾಡೆಲ್ ಅನ್ನು ತನ್ನ ಬಳಿಯೇ ಇರಿಸಿಕೊಂಡಿದ್ದು, ನಿಯಂತ್ರಿತ ಇಂಟರ್ಫೇಸ್‌ಗಳ ಮೂಲಕ ಮಾತ್ರ ಅದನ್ನು ನೀಡುತ್ತಿದೆ.

ಈ ಕ್ರಮಗಳು ಉದ್ಯಮವು ಕೇವಲ ಗಮನ ಸೆಳೆಯುವ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಸ್ಕೋರ್‌ಗಳಿಂದ (benchmark scores), ಮಲ್ಟಿ-ಸ್ಟೆಪ್ ಯೋಜನೆಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವ, ಬಾಹ್ಯ ಪರಿಕರಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಮತ್ತು ತಪ್ಪುಗಳಿಂದ ಚೇತರಿಸಿಕೊಳ್ಳುವ ಮಾಡೆಲ್‌ಗಳ ಸಾಮರ್ಥ್ಯದ ಕಡೆಗೆ ಗಮನವನ್ನು ಬದಲಾಯಿಸುತ್ತಿರುವುದನ್ನು ತೋರಿಸುತ್ತವೆ—ಈ ಸಾಮರ್ಥ್ಯಗಳು ದುಷ್ಟ ಕೃತ್ಯ ಮಾಡುವವರನ್ನು (malicious actors) ಸಹ ಆಕರ್ಷಿಸುತ್ತವೆ.

ಪಣಕ್ಕಿಟ್ಟಿರುವ ವಿಷಯಗಳೇನು

ಒಂದು ವೇಳೆ ಮಾಡೆಲ್ ತೂಕಗಳನ್ನು ಅಂತಿಮವಾಗಿ MIT ನಂತಹ ಅನುಮತಿಸುವ ಪರವಾನಗಿ (permissive license) ಅಡಿಯಲ್ಲಿ ಬಿಡುಗಡೆ ಮಾಡಿದರೆ, ಭದ್ರತಾ ಸಂಶೋಧಕರು ಮಾಡೆಲ್‌ನ ತಂತ್ರಗಳನ್ನು ಅಧ್ಯಯನ ಮಾಡಬಹುದು, ಪ್ರತಿರೋಧಕ ಕ್ರಮಗಳನ್ನು (counter-measures) ಅಭಿವೃದ್ಧಿಪಡಿಸಬಹುದು ಮತ್ತು ತಂತ್ರಜ್ಞಾನವನ್ನು ರಕ್ಷಣಾತ್ಮಕ ಪರಿಕರಗಳಲ್ಲಿ ಅಳವಡಿಸಬಹುದು. ಮುಕ್ತ ಮೂಲ (open-source) ಬಿಡುಗಡೆಯು ಪಾರದರ್ಶಕತೆಯು ಸಮುದಾಯವು ಬೆದರಿಕೆಗಳಿಗಿಂತ ಮುಂಚಿತವಾಗಿರಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ ಎಂಬ ತತ್ವವನ್ನು ಬಲಪಡಿಸುತ್ತದೆ.

ಇದಕ್ಕೆ ವಿರುದ್ಧವಾಗಿ, ಹೆಚ್ಚು ನಿರ್ಬಂಧಿತ ಪರವಾನಗಿಯು ಅತ್ಯಂತ ಮುಕ್ತ ತೂಕಗಳ ಪರವಾಗಿರುವವರೂ ಸಹ ಮಾಡೆಲ್ ಅನ್ನು ಯಾರು ಬಳಸಬಹುದು ಎಂಬುದನ್ನು ಮಿತಿಗೊಳಿಸುವ ಅಗತ್ಯವನ್ನು ಕಾಣುತ್ತಿದ್ದಾರೆ ಎಂಬ ಸಂಕೇತವನ್ನು ನೀಡುತ್ತದೆ. ಇದು ಒಂದು ಮಾದರಿಯನ್ನು (precedent) ಸ್ಥಾಪಿಸಬಹುದು ಮತ್ತು ಈ ಕ್ಷೇತ್ರವನ್ನು "access-by-API" ಆರ್ಥಿಕತೆಯತ್ತ ತಳ್ಳಬಹುದು.

ಮೂಲಭೂತ ಸಂಘರ್ಷ ಹಾಗೆಯೇ ಉಳಿದಿದೆ: ಒಮ್ಮೆ ಮಾಡೆಲ್ ಫೈಲ್ ಅನ್ನು ಸಾರ್ವಜನಿಕವಾಗಿ ಪೋಸ್ಟ್ ಮಾಡಿದ ನಂತರ, ಅದನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಳ್ಳುವುದನ್ನು ತಡೆಯುವ ಯಾವುದೇ ಸಾಮರ್ಥ್ಯವನ್ನು ಪ್ರಕಾಶಕರು ಕಳೆದುಕೊಳ್ಳುತ್ತಾರೆ. ಎರಡು ವಾರಗಳ ಸುರಕ್ಷತಾ ಪರಿಶೀಲನೆಯು ಆ ವಹಿವಾಟನ್ನು (trade-off) ಬದಲಾಯಿಸಲಾರದು, ಆದರೆ ಮಾರ್ಗಸೂಚಿಗಳನ್ನು ರೂಪಿಸಲು, ಬಳಕೆಯ ನಿಯಂತ್ರಣಗಳನ್ನು ಅಳವಡಿಸಲು ಅಥವಾ ಪರವಾನಗಿಯನ್ನು ಸರಿಪಡಿಸಲು ಇದು ಸಮಯವನ್ನು ನೀಡುತ್ತದೆ.

ಆಗಸ್ಟ್ 28 ರಂದು ಗಮನಿಸಬೇಕಾದವುಗಳು

GLM-5.3 ನ ಮುಂದಿನ ಅಧ್ಯಾಯವನ್ನು ಎರಡು ನಿರ್ದಿಷ್ಟ ಪ್ರಶ್ನೆಗಳು ನಿರ್ಧರಿಸಲಿವೆ:

  1. ತೂಕಗಳು (weights) ನಿಜವಾಗಿಯೂ ನಿಗದಿತ ವೇಳಾಪಟ್ಟಿಯಲ್ಲಿ ಲಭ್ಯವಾಗುತ್ತವೆಯೇ? ಗಡುವನ್ನು ತಪ್ಪಿದರೆ, ಅದು ಆಳವಾದ ತಾಂತ್ರಿಕ ಅಥವಾ ನೀತಿ ಅಡೆತಡೆಗಳನ್ನು ಸೂಚಿಸುತ್ತದೆ ಮತ್ತು ಬಹುಶಃ Z.ai ಪರಿಶೀಲನೆಯನ್ನು ವಿಸ್ತರಿಸಲು ಪ್ರೇರೇಪಿಸಬಹುದು.
  2. ಬಿಡುಗಡೆಯೊಂದಿಗೆ ಯಾವ ಪರವಾನಗಿ ಬರುತ್ತದೆ? ಬದಲಾಗದ MIT ಪರವಾನಗಿಯು ಮುಕ್ತತೆಗೆ ಒಂದು ಗೆಲುವಾಗಲಿದೆ; ನಿಯಂತ್ರಿತ ಪರವಾನಗಿಯ ಕಡೆಗೆ ಬದಲಾವಣೆಯಾದರೆ, ಏಜೆಂಟಿಕ್ ಮಾಡೆಲ್‌ಗಳ (agentic models) ಸುತ್ತ ಉದ್ಯಮವು ತನ್ನ ಹಿಡಿತವನ್ನು ಬಿಗಿಗೊಳಿಸುತ್ತಿದೆ ಎಂಬುದು ದೃಢವಾಗುತ್ತದೆ.

ಭದ್ರತೆಗೆ ಸಂಬಂಧಿಸಿದ ಸಂಶೋಧನೆಯನ್ನು ಯೋಜಿಸುತ್ತಿರುವ ಡೆವಲಪರ್‌ಗಳು, ತೂಕಗಳು ಬಂದ ತಕ್ಷಣ ನೈಜ ಪ್ರಪಂಚದ ಆಫೆನ್ಸಿವ್ ಕಾರ್ಯದ ಮೇಲೆ ಮಾಡೆಲ್ ಅನ್ನು ಪರೀಕ್ಷಿಸಲು ಸಿದ್ಧರ 있어야. ವಿಳಂಬವು ಕೇವಲ ಮುನ್ನೆಚ್ಚರಿಕೆಯಾಗಿದೆಯೇ ಅಥವಾ ಮಾಡೆಲ್‌ನ ಸಾಮರ್ಥ್ಯಗಳು ಪ್ರಸ್ತುತ ರಕ್ಷಣಾತ್ಮಕ ಪರಿಕರಗಳಿಗಿಂತ ನಿಜವಾಗಿಯೂ ವೇಗವಾಗಿವೆ ಎಂಬ ಸಂಕೇತವೇ ಎಂಬುದನ್ನು ಇದು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ.

ಸಾರಾಂಶ

GLM-5.3 ನ ತೂಕಗಳನ್ನು ತಡೆಹಿಡಿಯಲು Z.ai ತೆಗೆದುಕೊಂಡ ನಿರ್ಧಾರವು ಒಂದು ತಿರುವು: ಶಕ್ತಿಯುತವಾದ, ಪರಿಕರಗಳನ್ನು ಬಳಸುವ ಭಾಷಾ ಮಾಡೆಲ್‌ಗಳನ್ನು ಇನ್ನು ಮುಂದೆ ಕೇವಲ ಸಂಭಾಷಣೆಯ ನೈಪುಣ್ಯಕ್ಕಾಗಿ ಮಾತ್ರವಲ್ಲದೆ, ಅವು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಬಲ್ಲ ಕಾರ್ಯಗಳ ವ್ಯಾಪ್ತಿಗಾಗಿ ಗೌರವಿಸಲಾಗುತ್ತದೆ. ಹೆಚ್ಚಿನ ಲ್ಯಾಬ್‌ಗಳು ಏಜೆಂಟಿಕ್ ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಆದ್ಯತೆ ನೀಡುತ್ತಿದ್ದಂತೆ, ಆ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ರಕ್ಷಣೆ ಮಾಡುವವರ ವಿರುದ್ಧವೇ ಬಳಸುವ ಅಪಾಯ ಹೆಚ್ಚಾಗುತ್ತದೆ. ಮುಕ್ತ ಸಂಶೋಧನೆ ಮತ್ತು ದುರುಪಯೋಗವನ್ನು ತಡೆಗಟ್ಟುವ ಅಗತ್ಯತೆಯ ನಡುವೆ ಸಮತೋಲನವನ್ನು ಸಮುದಾಯವು ಕಾಪಾಡಿಕೊಳ್ಳಬಲ್ಲದೇ ಮತ್ತು "open weights" ಎಂಬುದು ಒಂದು ಆಸ್ತಿಯಷ್ಟೇ ಹೊರೆಯಾಗಬಹುದು ಎಂಬ ಜಗತ್ತಿನಲ್ಲಿ ಅನುಮತಿಸುವ ಪರವಾನಗಿ ಉಳಿಯಬಲ್ಲದೇ ಎಂಬುದನ್ನು ಮುಂಬರುವ ವಾರಗಳು ತೋರಿಸಲಿವೆ.