NVIDIA ತನ್ನ Jetson Orin Nano 2 ಅನ್ನು ಘೋಷಿಸಿದೆ, ಇದು ಡ್ರೋನ್ಗಳು, ರೋಬೋಟ್ಗಳು ಮತ್ತು ವಿಷನ್ ಸಿಸ್ಟಮ್ಗಳಲ್ಲಿ ನೇರವಾಗಿ ಜನರೇಟಿವ್ AI ಅನ್ನು ಅಳವಡಿಸುವ ಎಡ್ಜ್-ಕಂಪ್ಯೂಟಿಂಗ್ ಮಾಡ್ಯೂಲ್ ಆಗಿದೆ.
ಜನರೇಟಿವ್ AI ಅನ್ನು ಎಡ್ಜ್ಗೆ ತರುವುದು
ದೊಡ್ಡ ಜನರೇಟಿವ್ ಮಾಡೆಲ್ಗಳನ್ನು ಚಲಾಯಿಸಲು ಹಿಂದೆ ಡೇಟಾ-ಸೆಂಟರ್ GPUಗಳ ಅಗತ್ಯವಿರುತ್ತಿತ್ತು. Orin Nano 2 ಈ ಪರಿಸ್ಥಿತಿಯನ್ನು ಬದಲಾಯಿಸಿದೆ: ಈಗ ಡೆವಲಪರ್ಗಳು ಆ ಮಾಡೆಲ್ಗಳನ್ನು ನೇರವಾಗಿ ಸಾಧನದ ಮೇಲೆಯೇ ಚಲಾಯಿಸಬಹುದು. ಯಂತ್ರಗಳು ಇನ್ನು ಮುಂದೆ ಕ್ಲೌಡ್ ಸೂಚನೆಗಳಿಗಾಗಿ ಕಾಯುವುದಿಲ್ಲ; ಅವು ಸೆನ್ಸರ್ ಡೇಟಾವನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಿ ನೈಜ ಸಮಯದಲ್ಲಿ (real time) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ.
ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳಿಗೆ, ಇದು ವಿಳಂಬವನ್ನು (latency) ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಬಳಕೆಯನ್ನು ತಗ್ಗಿಸುತ್ತದೆ ಮತ್ತು ಡೇಟಾವನ್ನು ಗೌಪ್ಯವಾಗಿಡುತ್ತದೆ—ಇದು ದೂರದ ಸ್ಥಳಗಳು ಅಥವಾ ಸುರಕ್ಷಿತ ಪರಿಸರಗಳಿಗೆ ಬಹಳ ಮುಖ್ಯವಾಗಿದೆ.
ಸ್ವಾಯತ್ತ ಯಂತ್ರಗಳಿಗಾಗಿ ಹೊಸ ಮಾನದಂಡ
ಈ ಬೋರ್ಡ್ ಸ್ವಾಯತ್ತ ಮೊಬೈಲ್ ರೋಬೋಟ್ಗಳು (AMRs) ಮತ್ತು ಮಾನವ ರಹಿತ ವೈಮಾನಿಕ ವಾಹನಗಳನ್ನು (UAVs) ಗುರಿಯಾಗಿಸಿಕೊಂಡಿದೆ. NVIDIA ನ ಆರ್ಕಿಟೆಕ್ಚರ್ ಕ್ಯಾಮೆರಾ, LiDAR ಮತ್ತು ಇತರ ಸೆನ್ಸರ್ ಸ್ಟ್ರೀಮ್ಗಳನ್ನು ಏಕಕಾಲದಲ್ಲಿ ನಿರ್ವಹಿಸಲು ಬೇಕಾದಷ್ಟು ಥ್ರೂಪುಟ್ ಅನ್ನು ನೀಡುತ್ತದೆ.
Orin Nano 2 ಅಳವಡಿಸಲಾದ ರೋಬೋಟ್ಗಳು ಮೊದಲೇ ಪ್ರೋಗ್ರಾಂ ಮಾಡಲಾದ ಮಾರ್ಗಗಳಿಗಿಂತ ಮೀರಿದ ಚಲನೆಯನ್ನು ಮಾಡಬಲ್ಲವು. ವಿಷನ್-ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ಗಳು ಅವುಗಳಿಗೆ ಸುತ್ತಮುತ್ತಲಿನ ಪರಿಸರವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಮತ್ತು ಮಾನವನಂತಹ ತಿಳುವಳಿಕೆಯೊಂದಿಗೆ ಬದಲಾಗುತ್ತಿರುವ ಪರಿಸರದಲ್ಲಿ ಸಂಚರಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತವೆ, ಅಲ್ಲದೆ ಅಡೆತಡೆಗಳಿಗೆ ತಕ್ಷಣವೇ ಹೊಂದಿಕೊಳ್ಳಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ.
AI ಪರಿಸರ ವ್ಯವಸ್ಥೆಗೆ ಇದು ಏಕೆ ಮುಖ್ಯ
ಎಡ್ಜ್ AI ಅನ್ನು ಎಲ್ಲರಿಗೂ ಲಭ್ಯವಾಗುವಂತೆ ಮಾಡುವ NVIDIA ನ ಪ್ರಯತ್ನವು, ಕೇವಲ ಕ್ಲೌಡ್-ಆಧಾರಿತ ಬುದ್ಧಿವಂತಿಕೆಯಿಂದ ಭೌತಿಕ ಕ್ರಿಯೆಗಳತ್ತ (physical agency) ಬದಲಾವಣೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ. LLMಗಳು ಮತ್ತು ಡಿಫ್ಯೂಷನ್ ಮಾಡೆಲ್ಗಳು ಬೆಳೆದಂತೆ, ಡಿಜಿಟಲ್ ಒಳನೋಟಗಳನ್ನು ಚಲನೆಯನ್ನಾಗಿ ಪರಿವರ್ತಿಸುವ ಹಾರ್ಡ್ವೇರ್ ಅತ್ಯಗತ್ಯವಾಗುತ್ತದೆ.
ಎಂಟ್ರಿ-ಲೆವೆಲ್ ಬೋರ್ಡ್ ಅನ್ನು ಒದಗಿಸುವ ಮೂಲಕ, NVIDIA ಹಾರ್ಡ್ವೇರ್ ನಾವೀನ್ಯಕಾರರಿಗೆ ಇರುವ ಅಡೆತಡೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ಇದರಿಂದಾಗಿ ಬೃಹತ್ ಸರ್ವರ್ ಫಾರ್ಮ್ಗಳನ್ನು ಹೊಂದಿರುವ ಕಂಪನಿಗಳಿಗಷ್ಟೇ ಸೀಮಿತವಾಗದೆ ರೋಬೋಟಿಕ್ಸ್ ಕ್ಷೇತ್ರದಲ್ಲಿನ ಕ್ರಾಂತಿಕಾರಿ ಬದಲಾವಣೆಗಳು ಎಲ್ಲೆಡೆ ಹರಡುತ್ತವೆ. ಎಡ್ಜ್ ಕಂಪ್ಯೂಟ್ ಶೀಘ್ರದಲ್ಲೇ ಆಧುನಿಕ ಕೈಗಾರಿಕಾ ಮತ್ತು ಗ್ರಾಹಕ ರೋಬೋಟ್ಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಲಿದೆ.
ಪ್ರಮುಖ ಅಂಶಗಳು
- ಸ್ಥಳೀಯ ಬುದ್ಧಿವಂತಿಕೆ (Localized Intelligence): Orin Nano 2 ಜನರೇಟಿವ್ AI ಅನ್ನು ಸಾಧನದ ಮೇಲೆಯೇ ಚಲಾಯಿಸುತ್ತದೆ, ಇದರಿಂದ ವಿಳಂಬ ಮತ್ತು ಕ್ಲೌಡ್ ಅವಲಂಬನೆ ಕಡಿಮೆಯಾಗುತ್ತದೆ.
- ಗುರಿಯಾಗಿಸಿಕೊಂಡ ಅಪ್ಲಿಕೇಶನ್ಗಳು: ನೈಜ-ಸಮಯದ ಪ್ರಕ್ರಿಯೆಯ ಅಗತ್ಯವಿರುವ ಡ್ರೋನ್ಗಳು, ಸ್ವಾಯತ್ತ ರೋಬೋಟ್ಗಳು ಮತ್ತು ಸುಧಾರಿತ ವಿಷನ್ ಸಿಸ್ಟಮ್ಗಳಿಗಾಗಿ ಇದನ್ನು ಉತ್ತಮಗೊಳಿಸಲಾಗಿದೆ.
- ಭೌತಿಕ AI ಅನ್ನು ಎಲ್ಲರಿಗೂ ಲಭ್ಯವಾಗುವಂತೆ ಮಾಡುವುದು: ಕೈಗೆಟುಕುವ ದರದ ಎಡ್ಜ್ ಮಾಡ್ಯೂಲ್ ಡೆವಲಪರ್ಗಳು ಮತ್ತು ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳಿಗೆ AI ಏಕೀಕರಣವನ್ನು ವೇಗಗೊಳಿಸುತ್ತದೆ.
NVIDIA ತನ್ನ Jetson Orin Nano 2 ಅನ್ನು ಅನಾವರಣಗೊಳಿಸಿದೆ, ಇದು ರೋಬೋಟ್, ಡ್ರೋನ್ ಅಥವಾ ವಿಷನ್ ಸಿಸ್ಟಮ್ನಲ್ಲಿ ನೇರವಾಗಿ ಜನರೇಟಿವ್ AI ಮಾಡೆಲ್ಗಳನ್ನು ಚಲಾಯಿಸುವ ಎಂಟ್ರಿ-ಲೆವೆಲ್ ಎಡ್ಜ್ ಮಾಡ್ಯೂಲ್ ಆಗಿದೆ. ಈ ಕ್ರಮವು, ಮೂಲಭೂತ ಗ್ರಹಿಕೆಗಿಂತ ಹೆಚ್ಚಿನದಕ್ಕಾಗಿ ಹಿಂದೆ ಕ್ಲೌಡ್ ಸರ್ವರ್ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದ್ದ ಡೆವಲಪರ್ಗಳಿಗೆ ನೈಜ-ಸಮಯದ, ಸಾಧನದ ಮೇಲಿನ ಬುದ್ಧಿವಂತಿಕೆಯನ್ನು ತಲುಪುವಂತೆ ಮಾಡುತ್ತದೆ.
ಎಡ್ಜ್ AI ಏಕೆ ಮುಖ್ಯ
ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲ್ಗಳನ್ನು ಅಥವಾ ಡಿಫ್ಯೂಷನ್ ಜನರೇಟರ್ಗಳನ್ನು ಚಲಾಯಿಸುವುದು ಎಂದರೆ ಸಾಂಪ್ರದಾಯಿಕವಾಗಿ ಸೆನ್ಸರ್ ಡೇಟಾವನ್ನು ಡೇಟಾ ಸೆಂಟರ್ಗೆ ಕಳುಹಿಸುವುದು, ಪ್ರತಿಕ್ರಿಯೆಗಾಗಿ ಕಾಯುವುದು ಮತ್ತು ನಂತರ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದು ಎಂದರ್ಥವಾಗಿತ್ತು. ಈ ಪ್ರಕ್ರಿಯೆಯು ಮಿಲಿಸೆಕೆಂಡ್ಗಳನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ, ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಅನ್ನು ಬಳಸುತ್ತದೆ ಮತ್ತು ಗೌಪ್ಯತೆಯ ಕಾಳಜಿಗಳನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ. ಇದ್ದಕ್ಕಿದ್ದಂತೆ ಕೆಳಗೆ ಬಿದ್ದ ಪ್ಯಾಲೆಟ್ನಿಂದ ಸ್ವಾಯತ್ತ ರೋಬೋಟ್ ತಪ್ಪಿಸಿಕೊಳ್ಳಬೇಕಾದ ಗೋದಾಮಿನಲ್ಲಿ ಅಥವಾ ಕುಸಿದ ಕಟ್ಟಡದಲ್ಲಿ ಸಂಚರಿಸುವ ಶೋಧ ಮತ್ತು ರಕ್ಷಣಾ ಡ್ರೋನ್ನಲ್ಲಿ, ಕ್ಲೌಡ್ ಪ್ರತಿಕ್ರಿಯೆಗಾಗಿ ಕಾಯುವುದು ಯಶಸ್ಸು ಮತ್ತು ವೈಫಲ್ಯದ ನಡುವಿನ ವ್ಯತ್ಯಾಸವಾಗಬಹುದು.
ಎಡ್ಜ್ AI ಮಧ್ಯವರ್ತಿಯನ್ನು ತಪ್ಪಿಸುತ್ತದೆ. ವಿಡಿಯೋ, LiDAR ಅಥವಾ ಇತರ ಸೆನ್ಸರ್ ಸ್ಟ್ರೀಮ್ಗಳನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುವ ಮೂಲಕ, ಒಂದು ಸಾಧನವು ಸ್ಥಿರವಾದ ಇಂಟರ್ನೆಟ್ ಸಂಪರ್ಕವಿಲ್ಲದೆಯೇ ಕ್ಷಣಾರ್ಧದಲ್ಲಿ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. ಇದರ ಪ್ರಯೋಜನಗಳು ಮೂರು: ವೇಗವಾದ ಪ್ರತಿಕ್ರಿಯೆ ಸಮಯ, ಕಡಿಮೆ ಡೇಟಾ ಟ್ರಾಫಿಕ್ ಮತ್ತು ಕಚ್ಚಾ ಸೆನ್ಸರ್ ಡೇಟಾವನ್ನು ಸಾಧನದ ಮೇಲೆಯೇ ಇರಿಸಿಕೊಳ್ಳುವ ಸಾಮರ್ಥ್ಯ, ಇದು ಗೌಪ್ಯತಾ ನಿಯಮಗಳ ಅನುಸರಣೆಯನ್ನು ಸುಲಭಗೊಳಿಸುತ್ತದೆ.
Orin Nano 2 ಏನನ್ನು ತರುತ್ತದೆ
ಈ ಹೊಸ ಮಾಡ್ಯೂಲ್ NVIDIA ನ Jetson ಕುಟುಂಬದ ಮೇಲೆ ನಿರ್ಮಿತವಾಗಿದೆ, ಆದರೆ ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳು ಮತ್ತು ಸಣ್ಣ ಇಂಟಿಗ್ರೇಟರ್ಗಳನ್ನು ಗುರಿಯಾಗಿಸಿಕೊಂಡ ಬೆಲೆಯಲ್ಲಿ "ಎಡ್ಜ್ನಲ್ಲಿ ಜನರೇಟಿವ್ AI" ಎಂದು ಪ್ರತಿಪಾದಿಸುವ ಮೊದಲ ಮಾಡ್ಯೂಲ್ ಇದಾಗಿದೆ. ಇದರ ಆರ್ಕಿಟೆಕ್ಚರ್ GPU-ಶೈಲಿಯ ಕೋರ್ ಅನ್ನು ಮೀಸಲಾದ ನ್ಯೂರಲ್-ನೆಟ್ವರ್ಕ್ ಆಕ್ಸಿಲರೇಟರ್ಗಳೊಂದಿಗೆ ಸಂಯೋಜಿಸುತ್ತದೆ, ಇದು ವಿಷನ್-ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ಗಳು, ಸಣ್ಣ ಡಿಫ್ಯೂಷನ್ ನೆಟ್ವರ್ಕ್ಗಳು ಮತ್ತು ಇತರ ಜನರೇಟಿವ್ ಕೆಲಸಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಮ್ಯಾಟ್ರಿಕ್ಸ್-ಭಾರಿತ ಲೆಕ್ಕಾಚಾರಗಳನ್ನು ನಿಭಾಯಿಸುತ್ತದೆ.
ಪ್ರಮುಖ ಸಾಮರ್ಥ್ಯಗಳು
- ಮಲ್ಟಿ-ಸೆನ್ಸರ್ ಫ್ಯೂಷನ್ (Multi-sensor fusion) – ಪ್ರೊಸೆಸರ್ಗೆ ಅತಿಯಾದ ಹೊರೆ ನೀಡದೆ ಕ್ಯಾಮೆರಾ ಫೀಡ್ಗಳು, LiDAR ಪಾಯಿಂಟ್ಗಳು ಮತ್ತು ಇತರ ಇನ್ಪುಟ್ಗಳನ್ನು ಏಕಕಾಲದಲ್ಲಿ ಸ್ವೀಕರಿಸುತ್ತದೆ.
- ಆನ್-ಡೈವೈಸ್ ಇನ್ಫರೆನ್ಸ್ (On-device inference) – ಡೇಟಾವನ್ನು ಹೊರಗೆ ಕಳುಹಿಸದೆ ಮೊದಲೇ ತರಬೇತಿ ಪಡೆದ ಮಾಡೆಲ್ಗಳನ್ನು ಚಲಾಯಿಸುತ್ತದೆ, ಇದರಿಂದ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಮತ್ತು ಗೌಪ್ಯತೆ ಕಾಪಾಡಲ್ಪಡುತ್ತದೆ.
- ಶಕ್ತಿ-ಸಮರ್ಥ ಕಾರ್ಯಾಚರಣೆ (Power-efficient operation) – UAVಗಳು ಅಥವಾ ಕೈಯಲ್ಲಿ ಹಿಡಿಯಬಹುದಾದ ತಪಾಸಣಾ ಸಾಧನಗಳಂತಹ ಬ್ಯಾಟರಿ ಬಾಳಿಕೆ ಅಥವಾ ಥರ್ಮಲ್ ಎನ್ವಲಪ್ (thermal envelope) ಕಠಿಣ ನಿರ್ಬಂಧವಾಗಿರುವ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳಿಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.
ರೋಬೋಟಿಕ್ಸ್ ಮೇಲಿನ ಪರಿಣಾಮಗಳು
Orin Nano 2 ಹೊಂದಿರುವ ರೋಬೋಟ್ಗಳು ಮೊದಲೇ ನಿಗದಿಪಡಿಸಿದ ಮಾರ್ಗಗಳಿಗಿಂತ ಮೀರಿದ ಚಲನೆಯನ್ನು ಮಾಡಬಲ್ಲವು. ವಿಷನ್-ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ಗಳು ರೋಬೋಟ್ಗೆ "ಎಡದ ಕಪಾಟಿನಲ್ಲಿರುವ ಕೆಂಪು ಟೂಲ್ಬಾಕ್ಸ್ ಅನ್ನು ಎತ್ತಿಕೊ" ಎಂಬಂತಹ ಆದೇಶವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಮತ್ತು ಅದರ ಕೊನೆಯ ಮ್ಯಾಪ್ನಿಂದ ಪರಿಸರವು ಬದಲಾಗಿದ್ದರೂ ಸಹ ಆ ವಸ್ತುವನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತವೆ.
ಡ್ರೋನ್ಗಳು ನೈಜ ಸಮಯದಲ್ಲಿ ಭೂಪ್ರದೇಶವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಬಲ್ಲವು, ಹೊಸ ಅಡೆತಡೆಗಳು ಕಾಣಿಸಿಕೊಂಡಾಗ ಹಾರಾಟದ ಯೋಜನೆಗಳನ್ನು ತಕ್ಷಣವೇ ಬದಲಾಯಿಸಿಕೊಳ್ಳಬಲ್ಲವು. ಈ ಮಾಡ್ಯೂಲ್ನ ಲಭ್ಯತೆಯು ನಾವೀನ್ಯತೆಗಾರರ ಸಂಖ್ಯೆಯನ್ನು ಹೆಚ್ಚಿಸಬಹುದು. ಪ್ರತಿ ಇನ್ಫರೆನ್ಸ್ (inference) ಗಾಗಿ ಹಿಂದೆ ಕ್ಲೌಡ್ GPU ಸಮಯವನ್ನು ಬಾಡಿಗೆಗೆ ಪಡೆಯುತ್ತಿದ್ದ ಸಣ್ಣ ಕಂಪನಿಗಳು, ಈಗ ಒಂದೇ ಬೋರ್ಡ್ನಲ್ಲಿ ಪ್ರೊಟೊಟೈಪ್ ಮಾಡಬಹುದು, ಇದು ಆರಂಭಿಕ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ ಮತ್ತು ಇಟರೇಶನ್ ಚಕ್ರಗಳನ್ನು (iteration cycles) ವೇಗಗೊಳಿಸುತ್ತದೆ. ಇದು ಲಾಜಿಸ್ಟಿಕ್ಸ್, ಕೃಷಿ, ತಪಾಸಣೆ ಮತ್ತು ಕನ್ಸ್ಯೂಮರ್ ರೋಬೊಟಿಕ್ಸ್ನಲ್ಲಿ ಸ್ವಾಯತ್ತ ಪರಿಹಾರಗಳನ್ನು ವೇಗಗೊಳಿಸಬಹುದು.
ಸಂಭಾವ್ಯ ಅಡೆತಡೆಗಳು
ಎಡ್ಜ್ನಲ್ಲಿ (edge) ಜನರೇಟಿವ್ ಮಾಡೆಲ್ಗಳನ್ನು ಚಲಾಯಿಸುವುದು ಸವಾಲುಗಳಿಂದ ಕೂಡಿದೆ. ಮೀಸಲಾದ ಅಕ್ಸೆಲರೇಟರ್ಗಳಿದ್ದರೂ ಸಹ, ಕ್ರೆಡಿಟ್ ಕಾರ್ಡ್ ಗಾತ್ರದ ಬೋರ್ಡ್ ಸರ್ವರ್-ತರದ GPU ಗೆ ಸಮನಾಗಿರಲು ಸಾಧ್ಯವಿಲ್ಲ. ಡೆವಲಪರ್ಗಳು ಮಾಡೆಲ್ಗಳನ್ನು ಪ್ರೂನ್ (prune) ಅಥವಾ ಕ್ವಾಂಟೈಸ್ (quantize) ಮಾಡಬೇಕಾಗುತ್ತದೆ, ಅಥವಾ ವೇಗಕ್ಕಾಗಿ ರೆಸಲ್ಯೂಶನ್ ಅನ್ನು ಬಿಟ್ಟುಕೊಡಬೇಕಾಗುತ್ತದೆ ಅಥವಾ ಕಡಿಮೆ ಔಟ್ಪುಟ್ ನಿಖರತೆಯನ್ನು (fidelity) ಒಪ್ಪಿಕೊಳ್ಳಬೇಕಾಗುತ್ತದೆ. ಭಾರೀ ಇನ್ಫರೆನ್ಸ್ ಕೆಲಸದ ಹೊರೆಯನ್ನು ನಿರ್ವಹಿಸುವಾಗ ಡ್ರೋನ್ ಎಷ್ಟು ಸಮಯ ಹಾರಾಡಬಹುದು ಎಂಬುದನ್ನು ಪವರ್ ಮಿತಿಗಳು ನಿರ್ಬಂಧಿಸಬಹುದು.
ಮತ್ತೊಂದು ಸವಾಲು ಸಾಫ್ಟ್ವೇರ್ ಟೂಲಿಂಗ್ನಲ್ಲಿ ಇದೆ. NVIDIA ತನ್ನ Jetson ಸಾಧನಗಳಿಗಾಗಿ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ, ಆದರೆ ಸೀಮಿತ ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ಜನರೇಟಿವ್ ಮಾಡೆಲ್ಗಳನ್ನು ತರಬೇತಿಗೊಳಿಸಲು ಮತ್ತು ನಿಯೋಜಿಸಲು ಬೇಕಾದ ಪರಿಸರ ವ್ಯವಸ್ಥೆಯು (ecosystem) ಇನ್ನೂ ಬೆಳೆಯುತ್ತಿದೆ. ಕ್ಲೌಡ್-ಸ್ಕೇಲ್ ಹಾರ್ಡ್ವೇರ್ ಅನ್ನು ಗಮನದಲ್ಲಿಟ್ಟುಕೊಂಡು ನಿರ್ಮಿಸಲಾದ ಮಾಡೆಲ್ಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಲು ತಂಡಗಳು ಹೆಚ್ಚಿನ ಶ್ರಮ ಹಾಕಬೇಕಾಗಬಹುದು.
ಮುಂದೆ ಗಮನಿಸಬೇಕಾದವುಗಳು
Orin Nano 2 ನ ನಿಜವಾದ ಪರೀಕ್ಷೆಯೆಂದರೆ ವಾಣಿಜ್ಯ ಉತ್ಪನ್ನಗಳಲ್ಲಿ ಅದರ ಅಳವಡಿಕೆ. ರೋಬೊಟಿಕ್ಸ್ ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳು, ಡ್ರೋನ್ ತಯಾರಕರು ಅಥವಾ OEMs ನೀಡುವ ಆರಂಭಿಕ ಕ್ಷೇತ್ರ ಪ್ರಯೋಗಗಳು (field trials), ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಬೆಲೆಯ ಸಮತೋಲನವು ನಿರೀಕ್ಷೆಗಳಿಗೆ ತಕ್ಕಂತೆ ಇದೆಯೇ ಎಂಬುದನ್ನು ತಿಳಿಸುತ್ತದೆ. ಇತರ ಚಿಪ್ ತಯಾರಕರಿಂದ ಆಗುವ ಸಮಾನಾಂತರ ಬೆಳವಣಿಗೆಗಳು, ಪವರ್ ಎಫಿಷಿಯನ್ಸಿ ಮತ್ತು ಸಾಫ್ಟ್ವೇರ್ ಬೆಂಬಲದ ವಿಷಯದಲ್ಲಿ NVIDIA ವೇಗವಾಗಿ ಸುಧಾರಣೆಗಳನ್ನು ಮಾಡಲು ಒತ್ತಡ ಹೇರಬಹುದು.
ಸುರಕ್ಷತೆಗೆ ಸಂಬಂಧಿಸಿದ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಆನ್-ಡೈಸ್ (on-device) AI ಅನ್ನು ನಿಯಂತ್ರಕರು ಪರಿಶೀಲಿಸಲು ಪ್ರಾರಂಭಿಸಬಹುದು. ಹೆಚ್ಚಿನ ಸ್ವಾಯತ್ತ ವ್ಯವಸ್ಥೆಗಳು ಮಾನವನ ಹಸ್ತಕ್ಷೇಪವಿಲ್ಲದೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದ್ದಂತೆ, ಪರಿಶೀಲನೆ (verification), ದೃಢೀಕರಣ (validation) ಮತ್ತು ವಿವರಣಾತ್ಮಕತೆಯ (explainability) ಮಾನದಂಡಗಳು ತಯಾರಕರು ಎಡ್ಜ್ ಮಾಡೆಲ್ಗಳನ್ನು ಹೇಗೆ ಕಾನ್ಫಿಗರ್ ಮಾಡುತ್ತಾರೆ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸಬಹುದು.
ಸಾರಾಂಶ
ಕೈಗೆಟುಕುವ, ಕಡಿಮೆ ಶಕ್ತಿಯ ಬೋರ್ಡ್ಗೆ ಜನರೇಟಿವ್ AI ಅನ್ನು ತರುವ ಮೂಲಕ, NVIDIA "ಕ್ಲೌಡ್-ಮಾತ್ರಾ ಬುದ್ಧಿವಂತಿಕೆ"ಯನ್ನು (cloud-only intelligence) ಅಗತ್ಯವಿರುವ ರೋಬೋಟ್ನ ಒಳಗೇ ಇರಿಸಬಹುದಾದ ಹಾರ್ಡ್ವೇರ್ ವೈಶಿಷ್ಟ್ಯವನ್ನಾಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ. ಈ ಬದಲಾವಣೆಯು ಸುಧಾರಿತ ಗ್ರಹಿಕೆ (perception) ಮತ್ತು ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಎಲ್ಲರಿಗೂ ಲಭ್ಯವಾಗುವಂತೆ ಮಾಡಬಹುದು, ಆದರೆ ಯಶಸ್ಸು ಡೆವಲಪರ್ಗಳು ಭಾರೀ ಮಾಡೆಲ್ಗಳನ್ನು ಎಡ್ಜ್ ಮಾಡ್ಯೂಲ್ನ ಸೀಮಿತ ಸಂಪನ್ಮೂಲಗಳಿಗೆ ಎಷ್ಟು ಚೆನ್ನಾಗಿ ಹೊಂದಿಸಿಕೊಳ್ಳುತ್ತಾರೆ ಎಂಬುದರ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ. ಒಂದು ವೇಳೆ ಸಮತೋಲನ ಸಾಧಿಸಿದರೆ, ಮುಂದಿನ ತಲೆಮಾರಿನ ಡ್ರೋನ್ಗಳು, ವೇರ್ಹೌಸ್ ಬಾಟ್ಗಳು ಮತ್ತು ಇನ್ಸ್ಪೆಕ್ಷನ್ ಕ್ಯಾಮೆರಾಗಳು ಅವು ಚಲಿಸುವಷ್ಟೇ ವೇಗವಾಗಿ ಯೋಚಿಸಬಹುದು.
