Tencent ಈ ವಾರ WeMM-Embedding ಮಾಡೆಲ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ, ಇದು 2 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್ ಹೊಂದಿರುವ ಮಲ್ಟಿಮೋಡಲ್ ಸಿಸ್ಟಮ್ ಆಗಿದ್ದು, ಈಗಾಗಲೇ WeChat ನ ಸರ್ಚ್, ರೆಕಮೆಂಡೇಶನ್ ಮತ್ತು ಇ-ಕಾಮರ್ಸ್ ಪೈಪ್ಲೈನ್ಗಳಲ್ಲಿ ಅಳವಡಿಸಲಾಗಿದೆ. ಈ ಬಿಡುಗಡೆಯು ಮುಖ್ಯವಾಗುತ್ತದೆ ಏಕೆಂದರೆ ಇದು ನೈಜ ಪ್ರಪಂಚದ ರಿಟ್ರಿವಲ್ ಗುಣಮಟ್ಟ (retrieval quality), ಕಡಿಮೆ ವಿಳಂಬ (low latency) ಮತ್ತು ಸಣ್ಣ ಇಂಡೆಕ್ಸ್ ಗಾತ್ರವನ್ನು ನೀಡುವ ಮಾಡೆಲ್ ಅನ್ನು ತೋರಿಸುತ್ತದೆ.
“ಡೆಪ್ಲಾಯ್ಮೆಂಟ್ ಸ್ಟೋರಿ” (deployment story) ಬಗ್ಗೆ ಇಷ್ಟೊಂದು ಚರ್ಚೆ ಏಕೆ?
ಹೆಚ್ಚಿನ ಹೊಸ AI ಮಾಡೆಲ್ಗಳು ಕ್ಯುರೇಟೆಡ್ ಡೇಟಾಸೆಟ್ಗಳ ಮೇಲೆ ಸ್ಕೋರ್ಗಳನ್ನು ಹೋಲಿಸುವ ಹೊಳೆಯುವ ಬೆಂಚ್ಮಾರ್ಕ್ ಟೇಬಲ್ಗಳೊಂದಿಗೆ ಬರುತ್ತವೆ. ಆ ಸಂಖ್ಯೆಗಳು ಸಂಶೋಧಕರಿಗೆ ಒಂದು ಅಂಶವನ್ನು ಸಾಬೀತುಪಡಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ, ಆದರೆ ಅವು ಉತ್ಪನ್ನಗಳನ್ನು ಚಲಾಯಿಸುವ ಮೆಟ್ರಿಕ್ಗಳಿಗೆ (metrics) ಅಪರೂಪವಾಗಿ ಪರಿವರ್ತನೆಯಾಗುತ್ತವೆ: ಒಂದು ಕ್ವೆರಿ ಎಷ್ಟು ವೇಗವಾಗಿ ಮರಳುತ್ತದೆ, ಇಂಡೆಕ್ಸ್ ಎಷ್ಟು ಮೆಮೊರಿಯನ್ನು ಬಳಸುತ್ತದೆ ಮತ್ತು ಬಳಕೆದಾರರು ಸೃಷ್ಟಿಸುವ ಗೊಂದಲಮಯ ಕಂಟೆಂಟ್ನೊಂದಿಗೆ ಮಾಡೆಲ್ ಎಷ್ಟು ಚೆನ್ನಾಗಿ ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ ಎಂಬುದು ಮುಖ್ಯ. WeMM ಮೊದಲ ದಿನದಿಂದಲೇ ಪ್ರೊಡಕ್ಷನ್-ಗ್ರೇಡ್ ಘಟಕವಾಗಿರುವುದರಿಂದ ಈ ಚಿತ್ರಣವನ್ನೇ ಬದಲಿಸುತ್ತದೆ. ಇದು ಯಾವುದೋ ಒಂದು ತಂಡವು ಅಳವಡಿಸಿಕೊಳ್ಳಲು ಕಾಯುತ್ತಿರುವ ಲ್ಯಾಬ್ ಪ್ರಯೋಗವಲ್ಲ; ಇದು ಈಗಾಗಲೇ Channels, Moments ಮತ್ತು ಇ-ಕಾಮರ್ಸ್ ಅನ್ನು ಚಲಾಯಿಸುತ್ತಿದೆ.
ಡೆವಲಪರ್ಗಳು ಗಮನಿಸಬೇಕಾದ ತಾಂತ್ರಿಕ ಅಂಶಗಳು
ನಿಜವಾದ ಮಲ್ಟಿಮೋಡಲ್ ನಿರ್ವಹಣೆ (True multimodal handling) – ಈ ಮಾಡೆಲ್ ಪಠ್ಯ (text), ಚಿತ್ರಗಳು (images), ವಿಡಿಯೋ ಫ್ರೇಮ್ಗಳು ಮತ್ತು ಡಾಕ್ಯುಮೆಂಟ್ ಥಂಬ್ನೈಲ್ಗಳನ್ನು ಒಂದೇ ಎಂಬೆಡ್ಡಿಂಗ್ ಸ್ಪೇಸ್ಗೆ ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತದೆ. ಬಳಕೆದಾರರು “sunset” ಎಂದು ಟೈಪ್ ಮಾಡಿದರೆ, ಪ್ರತ್ಯೇಕ ಪಠ್ಯ-ಮಾತ್ರ ಅಥವಾ ದೃಶ್ಯ-ಮಾತ್ರ ಪೈಪ್ಲೈನ್ಗಳನ್ನು ಜೋಡಿಸುವ ಅಗತ್ಯವಿಲ್ಲದೆ, ಅದಕ್ಕೆ ಹೊಂದಿಕೆಯಾಗುವ ವಿಡಿಯೋ ಕ್ಲಿಪ್, ಫೋಟೋ ಅಥವಾ ಸುದ್ದಿ ಲೇಖನವನ್ನು ಪಡೆಯಬಹುದು.
ಗಾತ್ರ ಮುಖ್ಯ, ಆದರೆ ನೀವು ಯೋಚಿಸುವ ರೀತಿಯಲ್ಲಲ್ಲ – 9 ಬಿಲಿಯನ್ನಿಂದ ಹೆಚ್ಚಿನ ಪ್ಯಾರಾಮೀಟರ್ ಹೊಂದಿರುವ ಮತ್ತು ಲೀಡರ್ಬೋರ್ಡ್ಗಳನ್ನು ಆಕ್ರಮಿಸಿಕೊಂಡಿರುವ ಮಾಡೆಲ್ಗಳಿಗೆ ಹೋಲಿಸಿದರೆ, 2 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್ ಹೊಂದಿರುವ ಈ ಮಾಡೆಲ್ “ಸಣ್ಣದು”. ಆದರೂ, ಇದು ಇಂಟರಾಕ್ಟಿವ್ ಸೇವೆಗಳಿಗೆ ಅಗತ್ಯವಿರುವ ವಿಳಂಬದ (latency) ಮಿತಿಯನ್ನು ಪೂರೈಸುತ್ತದೆ. ನಿಮ್ಮ ಹಾರ್ಡ್ವೇರ್ಗೆ ಹೊಂದಿಕೆಯಾಗುವ ಮಾಡೆಲ್, ಲೈವ್ ಸಿಸ್ಟಮ್ನಲ್ಲಿ ದೊಡ್ಡದಾದ ಮತ್ತು ನಿಧಾನಗತಿಯ ಮಾಡೆಲ್ ಅನ್ನು ಮೀರಿಸಬಹುದು.
Matryoshka ಎಂಬೆಡ್ಡಿಂಗ್ಗಳು ಡೈಮೆನ್ಷನ್ ಫ್ಲೆಕ್ಸಿಬಿಲಿಟಿಯನ್ನು ನೀಡುತ್ತವೆ – WeMM “Matryoshka” ಎಂಬೆಡ್ಡಿಂಗ್ಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ, ಅಂದರೆ ಒಂದೇ ನೆಟ್ವರ್ಕ್ 256 ಅಥವಾ 512 ಡೈಮೆನ್ಷನ್ಗಳಂತಹ ವಿಭಿನ್ನ ಉದ್ದದ ವೆಕ್ಟರ್ಗಳನ್ನು ನೀಡಬಹುದು. 512 ರಿಂದ 256 ಡೈಮೆನ್ಷನ್ಗಳಿಗೆ ಇಳಿಸುವುದರಿಂದ ಮೆಮೊರಿ ಬಳಕೆಯನ್ನು ಅರ್ಧಕ್ಕೆ ಕಡಿಮೆ ಮಾಡಬಹುದು ಮತ್ತು ಸ್ಟೋರೇಜ್ ವೆಚ್ಚವನ್ನು ನೇರವಾಗಿ ಕಡಿಮೆ ಮಾಡುವುದರ ಜೊತೆಗೆ ನೆರೆಹೊರೆಯ ಹುಡುಕಾಟದ (nearest-neighbor searches) ವೇಗವನ್ನು ಹೆಚ್ಚಿಸಬಹುದು, ಆದರೆ ರಿಟ್ರಿವಲ್ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಬಹುತೇಕ ಪೂರ್ಣವಾಗಿ ಉಳಿಸಿಕೊಳ್ಳಬಹುದು ಎಂದು ಪರೀಕ್ಷೆಗಳು ತೋರಿಸುತ್ತವೆ.
ರಿಟ್ರಿವಲ್ ಸಿಸ್ಟಮ್ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮೂರು ಪ್ರಾಯೋಗಿಕ ನಿಯಮಗಳು
ನಿಮ್ಮ ಸ್ವಂತ ಡೇಟಾದ ಮೇಲೆ ಪರೀಕ್ಷಿಸಿ (Validate on your own data) – ಬೆಂಚ್ಮಾರ್ಕ್ಗಳು ಸ್ವಚ್ಛವಾಗಿರುತ್ತವೆ; ಆದರೆ ಪ್ರೊಡಕ್ಷನ್ ಡೇಟಾ ಗೊಂದಲಮಯವಾಗಿರುತ್ತದೆ. ನಿಮ್ಮ ಬಳಕೆದಾರರು ಸ್ಕ್ರೀನ್ಶಾಟ್ಗಳು, ಕೈಬರಹದ ಟಿಪ್ಪಣಿಗಳು ಅಥವಾ ಕಡಿಮೆ ರೆಸಲ್ಯೂಶನ್ ವಿಡಿಯೋಗಳನ್ನು ಅಪ್ಲೋಡ್ ಮಾಡುವುದಾದರೆ, ಅದು ನಿಮಗೆ ಸೂಕ್ತವೇ ಎಂದು ನಿರ್ಧರಿಸುವ ಮೊದಲು ಆ ನಿರ್ದಿಷ್ಟ ಮಿಶ್ರಣದ ಮೇಲೆ ಮಾಡೆಲ್ ಅನ್ನು ರನ್ ಮಾಡಿ.
ವೆಕ್ಟರ್ ಉದ್ದವನ್ನು ವೆಚ್ಚದ ಸಾಧನವಾಗಿ ಪರಿಗಣಿಸಿ (Treat vector length as a cost lever) – ದೊಡ್ಡ ವೆಕ್ಟರ್ಗಳು ಸಿಮ್ಯುಲಾರಿಟಿ ಸರ್ಚ್ಗೆ ಬೇಕಾದ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಇಂಡೆಕ್ಸ್ಗಾಗಿ ಡಿಸ್ಕ್ ಸ್ಪೇಸ್ ಎರಡನ್ನೂ ಹೆಚ್ಚಿಸುತ್ತವೆ. ನಿಮ್ಮ ಗುಣಮಟ್ಟದ ಗುರಿಯನ್ನು ತಲುಪುವ ಅತ್ಯಂತ ಸಣ್ಣ ಡೈಮೆನ್ಷನ್ನೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ. ರಿಕಾಲ್ (recall) ಅಥವಾ ಪ್ರಿಸಿಸನ್ (precision) ನಲ್ಲಿ ಸ್ಪಷ್ಟವಾದ ಕುಸಿತ ಕಂಡುಬಂದಾಗ ಮಾತ್ರ ಅದನ್ನು ಹೆಚ್ಚಿಸಿ.
ಪ್ರತ್ಯೇಕ ಪೈಪ್ಲೈನ್ಗಳನ್ನು ತಪ್ಪಿಸಿ (Avoid siloed pipelines) – ಪ್ರತಿ ಮಾಡಾಲಿಟಿಗಾಗಿ ಪ್ರತ್ಯೇಕ ಎನ್ಕೋಡರ್ಗಳನ್ನು ನಿರ್ಮಿಸುವುದು ಅಂತಿಮ ರ್ಯಾಂಕಿಂಗ್ ಹಂತಕ್ಕಾಗಿ ನೀವು ತಾವೇ ವೇಯ್ಟಿಂಗ್ ಸ್ಕೀಮ್ಗಳನ್ನು ತಯಾರಿಸುವಂತೆ ಮಾಡುತ್ತದೆ. ಒಂದು ಯುನಿವರ್ಸಲ್ ಎಂಬೆಡ್ಡಿಂಗ್ ಲೇಯರ್ ಆ ಗ್ಲೂ ಕೋಡ್ ಅನ್ನು (glue code) ತೆಗೆದುಹಾಕುತ್ತದೆ, ಇಂಜಿನಿಯರಿಂಗ್ ಹೊರೆ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ ಮತ್ತು A/B ಟೆಸ್ಟಿಂಗ್ ಅನ್ನು ಸರಳಗೊಳಿಸುತ್ತದೆ.
ವ್ಯಾಪಕವಾದ ಪರಿಣಾಮಗಳು
ಸರ್ಚ್ ಅಥವಾ ರೆಕಮೆಂಡೇಶನ್ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವ ಕಂಪನಿಗಳಿಗೆ, ಎಂಬೆಡ್ಡಿಂಗ್ ಮಾಡೆಲ್ನ ಆಯ್ಕೆಯು ಮೂಲಸೌಕರ್ಯ ವೆಚ್ಚವನ್ನು ನಿರ್ಧರಿಸಬಹುದು. ಬಳಕೆದಾರರ ನಿರೀಕ್ಷೆಗಳು ಹೆಚ್ಚಾದಂತೆ ವಿಳಂಬದ (latency) ಮಿತಿಗಳು ಕಿರಿದಾಗುತ್ತವೆ; ಒಂದು ಕ್ವೆರಿಗೆ ಕೇವಲ ಕೆಲವು ಮಿಲಿಸೆಕೆಂಡ್ಗಳನ್ನು ಹೆಚ್ಚಿಸುವ ಮಾಡೆಲ್ ಸೇವೆಯ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಕುಸಿಯುವಂತೆ ಮಾಡಬಹುದು, ಇದು ಬಳಕೆದಾರರ ಸಂಖ್ಯೆ ಇಳಿಯಲು ಕಾರಣವಾಗಬಹುದು.
Apache 2.0 ಲೈಸೆನ್ಸ್ ಅಡಿಯಲ್ಲಿ ಮಾಡೆಲ್ನ ತೂಕಗಳನ್ನು (weights) ಓಪನ್-ಸೋರ್ಸ್ ಮಾಡುವ ಟೆನ್ಸೆಂಟ್ನ ನಿರ್ಧಾರವು ಡೆವಲಪರ್ಗಳ ವೆಚ್ಚದ ಪ್ರವೃತ್ತಿಯನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ. ಪ್ರೊಪ್ರೈಟರಿ ಒಪ್ಪಂದಗಳನ್ನು ಮಾತುಕತೆ ಮಾಡುವುದರ ಅಥವಾ ಮಾಡೆಲ್ ಅನ್ನು ಮೊದಲಿನಿಂದ ನಿರ್ಮಿಸುವುದರ ಬದಲಿಗೆ, ತಂಡಗಳು ಚೆಕ್ಪಾಯಿಂಟ್ ಅನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಬಹುದು, ಅದನ್ನು ಡೊಮೇನ್-ನಿರ್ದಿಷ್ಟ ಡೇಟಾದ ಮೇಲೆ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಬಹುದು ಮತ್ತು ಕೆಲವು ವೈಫಲ್ಯದ ಪ್ರಕರಣಗಳ ವಿರುದ್ಧ ಅದನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಬಹುದು.
ಮಾಡೆಲ್ ಎಲ್ಲಿ ಹಿನ್ನಡೆ ಅನುಭವಿಸಬಹುದು
ಈ ಮಾಡೆಲ್ ನಾಲ್ಕು ಮಾಡಾಲಿಟಿಗಳನ್ನು—ಪಠ್ಯ, ಚಿತ್ರಗಳು, ವಿಡಿಯೋ ಮತ್ತು ಡಾಕ್ಯುಮೆಂಟ್ಗಳನ್ನು—ನಿರ್ವಹಿಸುತ್ತದೆ, ಆದರೆ ಎಲ್ಲಾ ರೀತಿಯ ಇನ್ಪುಟ್ಗಳನ್ನು ಒಳಗೊಂಡಿರುವುದಿಲ್ಲ.
ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು
ಸಾರಾಂಶ
WeMM ತೋರಿಸಿಕೊಡುವುದು ಏನೆಂದರೆ, ಉತ್ಪಾದನಾ ನಿರ್ಬಂಧಗಳನ್ನು (production constraints) ಗಮನದಲ್ಲಿಟ್ಟುಕೊಂಡು ನಿರ್ಮಿಸಿದರೆ, ಸಾಧಾರಣ ಗಾತ್ರದ ಮಲ್ಟಿಮೋಡಲ್ ಎಂಬೆಡ್ಡಿಂಗ್ ಮಾಡೆಲ್ ದೈನಂದಿನ ಕ್ವೆರಿಗಳನ್ನು ನಿಭಾಯಿಸಬಲ್ಲದು. ಡೆವಲಪರ್ಗಳಿಗೆ ಸಂದೇಶ ಸ್ಪಷ್ಟವಾಗಿದೆ: ನೈಜ ಪ್ರಪಂಚದ ರಿಟ್ರಿವಲ್ ಗುಣಮಟ್ಟಕ್ಕೆ ಆದ್ಯತೆ ನೀಡಿ, ವೆಕ್ಟರ್ ಡೈಮೆನ್ಷನ್ಗಳನ್ನು ಸಾಧ್ಯವಾದಷ್ಟು ಚಿಕ್ಕದಾಗಿಡಿ ಮತ್ತು ಎಲ್ಲಾ ಮಾಡಾಲಿಟಿಗಳನ್ನು ಒಂದೇ ಎಂಬೆಡ್ಡಿಂಗ್ ಲೇಯರ್ಗೆ ಸಂಯೋಜಿಸಿ. ಈ ಆಯ್ಕೆಗಳು ವಿಳಂಬವನ್ನು ಕಡಿಮೆ ಮಾಡಬಹುದು, ಸ್ಟೋರೇಜ್ ವೆಚ್ಚವನ್ನು ತಗ್ಗಿಸಬಹುದು ಮತ್ತು ಅಂತಿಮವಾಗಿ ಬಳಕೆದಾರರಿಗೆ ಉತ್ತಮ ಅನುಭವವನ್ನು ನೀಡಬಹುದು.