NVIDIA தனது Jetson Orin Nano 2-ஐ அறிவித்துள்ளது; இது ட்ரோன்கள் (drones), ரோபோக்கள் மற்றும் விஷன் சிஸ்டம்களில் (vision systems) நேரடியாக ஜெனரேட்டிவ் AI-ஐ (generative AI) இயக்கும் ஒரு எட்ஜ்-கம்பியூட்டிங் (edge-computing) மாட்யூல் ஆகும்.

ஜெனரேட்டிவ் AI-ஐ எட்ஜிற்கு கொண்டு வருதல்

பெரிய அளவிலான ஜெனரேட்டிவ் மாடல்களை இயக்குவதற்கு முன்பு டேட்டா-சென்டர் GPU-க்கள் தேவைப்பட்டன. Orin Nano 2 இந்த நிலையை மாற்றுகிறது: டெவலப்பர்கள் இப்போது அந்த மாடல்களை சாதனத்திலேயே (device) இயக்க முடியும். இயந்திரங்கள் இனி கிளவுட் (cloud) அறிவுறுத்தல்களுக்காகக் காத்திருக்க வேண்டியதில்லை; அவை சென்சார் தரவுகளைச் செயலாக்கி, நிகழ்நேரத்தில் (real time) செயல்படுகின்றன.

ஸ்டார்ட்அப்களுக்கு (startups), இது லேட்டன்சியைக் (latency) குறைக்கிறது, பேண்ட்வித் (bandwidth) பயன்பாட்டைக் குறைக்கிறது மற்றும் தரவுகளின் தனியுரிமையைப் பாதுகாக்கிறது—இது தொலைதூர இடங்கள் அல்லது பாதுகாப்பான சூழல்களுக்கு மிகவும் அவசியமானது.

தன்னாட்சி இயந்திரங்களுக்கான ஒரு புதிய தரம்

இந்த போர்டு தன்னாட்சி நடமாடும் ரோபோக்கள் (AMRs) மற்றும் மனிதனையிடமற்ற வான்வழி வாகனங்களை (UAVs) இலக்காகக் கொண்டுள்ளது. NVIDIA-வின் ஆர்க்கிடெக்சர் (architecture), கேமரா, LiDAR மற்றும் பிற சென்சார் தரவுகளை ஒரே நேரத்தில் கையாள போதுமானத் திறனை வழங்குகிறது.

Orin Nano 2 பொருத்தப்பட்ட ரோபோக்கள், முன்கூட்டியே திட்டமிடப்பட்ட பாதைகளைத் தாண்டிச் செயல்பட முடியும். விஷன்-லாங்குவேஜ் மாடல்கள் (Vision-language models), அவை சுற்றியுள்ள சூழலை விளக்கவும், மனிதனைப் போன்ற புரிதலுடன் மாறும் சூழல்களில் வழிநடத்தவும், தடைகளுக்கு ஏற்ப உடனடியாகத் தங்களை மாற்றிக்கொள்ளவும் அனுமதிக்கின்றன.

AI சுற்றுச்சூழல் அமைப்பிற்கு இது ஏன் முக்கியமானது

எட்ஜ் AI-ஐ அனைவருக்கும் கிடைக்கச் செய்ய (democratize) NVIDIA எடுக்கும் முயற்சி, கிளவுட் சார்ந்த அறிவுத்திறனிலிருந்து இயற்பியல் செயல்பாட்டுத் திறனை (physical agency) நோக்கிய மாற்றத்தைக் குறிக்கிறது. LLM மற்றும் டிஃப்யூஷன் மாடல்கள் (diffusion models) வளர வளர, டிஜிட்டல் நுண்ணறிவுகளை இயக்கமாக மாற்றும் வன்பொருள் (hardware) அவசியமாகிறது.

ஒரு ஆரம்பநிலை போர்டை (entry-level board) வழங்குவதன் மூலம், NVIDIA வன்பொருள் கண்டுபிடிப்பாளர்களுக்கான தடைகளைக் குறைக்கிறது, இதன் மூலம் மிகப்பெரிய சர்வர் பண்ணைகளைக் கொண்ட நிறுவனங்களைத் தாண்டி ரோபாட்டிக்ஸ் முன்னேற்றங்களை பரப்புகிறது. எட்ஜ் கம்ப்யூட் (Edge compute) விரைவில் நவீன தொழில்துறை மற்றும் நுகர்வோர் ரோபோக்களைத் தீர்மானிக்கும்.

முக்கிய அம்சங்கள்

  • உள்ளூர்மயமாக்கப்பட்ட நுண்ணறிவு (Localized Intelligence): Orin Nano 2 சாதனத்திலேயே ஜெனரேட்டிவ் AI-ஐ இயக்குகிறது, இதன் மூலம் லேட்டன்சி மற்றும் கிளவுட் சார்ந்திருப்பதைக் குறைக்கிறது.
  • குறிப்பிட்ட பயன்பாடுகள் (Targeted Applications): நிகழ்நேரச் செயலாக்கம் தேவைப்படும் ட்ரோன்கள், தன்னாட்சி ரோபோக்கள் மற்றும் மேம்பட்ட விஷன் சிஸ்டம்களுக்கு ஏற்றவாறு மேம்படுத்தப்பட்டுள்ளது.
  • இயற்பியல் AI-ஐ அனைவருக்கும் கொண்டு செல்லுதல் (Democratizing Physical AI): மலிவு விலையிலான எட்ஜ் மாட்யூல், டெவலப்பர்கள் மற்றும் ஸ்டார்ட்அப்களுக்கான AI ஒருங்கிணைப்பை வேகப்படுத்துகிறது.

NVIDIA தனது Jetson Orin Nano 2-ஐ அறிமுகப்படுத்தியுள்ளது. இது ஒரு ரோபோ, ட்ரோன் அல்லது விஷன் சிஸ்டத்தில் நேரடியாக ஜெனரேட்டிவ் AI மாடல்களை இயக்கும் ஒரு ஆரம்பநிலை எட்ஜ் மாட்யூல் ஆகும். இந்த நடவடிக்கை, அடிப்படைப் புலனுணர்விற்கு (perception) அப்பால் எதற்கும் கிளவுட் சர்வர்களைச் சார்ந்திருந்த டெவலப்பர்களுக்கு, நிகழ்நேர, சாதனத்திலேயே இயங்கும் நுண்ணறிவை வழங்குகிறது.

எட்ஜ் AI ஏன் முக்கியமானது

பெரிய மொழி மாதிரிகள் (LLMs) அல்லது டிஃப்யூஷன் ஜெனரேட்டர்களை இயக்குவது என்பது பாரம்பரியமாக சென்சார் தரவை ஒரு டேட்டா சென்டருக்கு அனுப்பி, பதிலுக்காகக் காத்திருந்து, பின்னர் செயல்படுவதைக் குறித்தது. அந்தத் திரும்பும் பயணம் மில்லிசெகண்டுகளைச் சேர்க்கிறது, பேண்ட்வித்-ஐப் பயன்படுத்துகிறது மற்றும் தனியுரிமை கவலைகளை எழுப்புகிறது. ஒரு கிடங்கில் (warehouse) தன்னாட்சி ரோபோ திடீரென கீழே விழும் ஒரு பெட்டியைத் தவிர்க்க வேண்டியிருக்கலாம், அல்லது இடிந்து விழுந்த கட்டிடத்தில் தேடுதல் மற்றும் மீட்புப் பணியில் ஈடுபடும் ஒரு ட்ரோன் இருக்கலாம்; அத்தகைய சூழலில் கிளவுட் பதிலுக்காகக் காத்திருப்பது வெற்றிக்கும் தோல்விக்கும் இடையிலான வித்தியாசமாக இருக்கலாம்.

எட்ஜ் AI இடைத்தரகரைத் தவிர்க்கிறது. வீடியோ, LiDAR அல்லது பிற சென்சார் தரவுகளை உள்ளூரிலேயே (locally) செயலாக்குவதன் மூலம், ஒரு சாதனம் நிலையான இணைய இணைப்பு இல்லாமலேயே நொடிப் பொழுதில் முடிவுகளை எடுக்கிறது. இதன் நன்மைகள் மூன்று: வேகமான எதிர்வினை நேரம், குறைக்கப்பட்ட தரவுப் போக்குவரத்து மற்றும் மூல சென்சார் தரவைச் சாதனத்திலேயே வைத்திருக்கும் திறன், இது தனியுரிமை விதிமுறைகளைப் பின்பற்றுவதை எளிதாக்குகிறது.

Orin Nano 2 என்ன கொண்டு வருகிறது

இந்த புதிய மாட்யூல் NVIDIA-வின் Jetson குடும்பத்தைச் சார்ந்தது, ஆனால் ஸ்டார்ட்அப்கள் மற்றும் சிறிய ஒருங்கிணைப்பாளர்களுக்காக (integrators) வடிவமைக்கப்பட்ட விலையில் "எட்ஜில் ஜெனரேட்டிவ் AI" (generative AI at the edge) என்று உரிமை கோரும் முதல் மாட்யூல் இதுவாகும். இதன் ஆர்க்கிடெக்சர், ஒரு GPU-பாணி கோரை (core) பிரத்யேக நியூரல்-நெட்வொர்க் ஆக்சிலரேட்டர்களுடன் (neural-network accelerators) இணைக்கிறது; இது விஷன்-லாங்குவேஜ் மாடல்கள், சிறிய டிஃப்யூஷன் நெட்வொர்க்குகள் மற்றும் பிற ஜெனரேட்டிவ் வேலைப்பளுக்களுக்குத் தேவையான மேட்ரிக்ஸ் சார்ந்த கணக்கீடுகளைக் கையாள்கிறது.

முக்கியத் திறன்கள்

  • மல்டி-சென்சார் ஃபியூஷன் (Multi-sensor fusion) – பிராசஸரை (processor) அதிகப்படியாகச் சுழலச் செய்யாமல், கேமரா ஃபீட்கள், LiDAR புள்ளிகள் மற்றும் பிற உள்ளீடுகளை ஒரே நேரத்தில் உள்வாங்குகிறது.
  • சாதனத்திலேயே அனுமானம் செய்தல் (On-device inference) – தரவை வெளியே அனுப்பாமல் முன்-பயிற்சி அளிக்கப்பட்ட மாடல்களை இயக்குகிறது, இதன் மூலம் பேண்ட்வித் மற்றும் ரகசியத்தன்மையைப் பாதுகாக்கிறது.
  • மின்சாரத்தைச் சிக்கனமாகப் பயன்படுத்தும் இயக்கம் (Power-efficient operation) – பேட்டரி ஆயுள் அல்லது வெப்ப வரம்பு (thermal envelope) ஒரு கடினமான கட்டுப்பாடாக இருக்கும் UAVகள் அல்லது கையடக்க ஆய்வு கருவிகள் போன்ற தளங்களுக்காக வடிவமைக்கப்பட்டுள்ளது.

ரோபாட்டிக்ஸிற்கான தாக்கங்கள்

Orin Nano 2 கொண்ட ரோபோக்கள், முன்கூட்டியே எழுதப்பட்ட பாதைகளைத் தாண்டிச் செயல்பட முடியும். விஷன்-லாங்குவேஜ் மாடல்கள், "இடது பக்க அலமாரியில் உள்ள சிவப்பு நிற டூல் பாக்ஸை எடு" போன்ற கட்டளையை ஒரு ரோபோ புரிந்துகொள்ளவும், அதன் கடைசி வரைபடத்திற்குப் பிறகு சூழல் மாறியிருந்தாலும் அந்தப் பொருளைக் கண்டறியவும் அனுமதிக்கின்றன.

ட்ரோன்கள் நிகழ்நேரத்தில் நிலப்பரப்பை மதிப்பீடு செய்து, புதிய தடையைக் காணும்போது பறக்கும் திட்டங்களை உடனடியாக மாற்றியமைக்க முடியும். இந்த மாட்யூலின் எளிதில் கிடைக்கும் தன்மை, கண்டுபிடிப்பாளர்களின் எண்ணிக்கையை அதிகரிக்கக்கூடும். ஒவ்வொரு முறை இன்ஃபரன்ஸ் (inference) செய்வதற்கும் முன்பு கிளவுட் GPU நேரத்தை வாடகைக்கு எடுத்த சிறு நிறுவனங்கள், இப்போது ஒரு தனி போர்டிலேயே முன்மாதிரிகளை (prototype) உருவாக்க முடியும்; இது ஆரம்பக்கட்ட செலவுகளைக் குறைப்பதோடு, மேம்பாட்டுச் சுழற்சிகளையும் (iteration cycles) வேகப்படுத்தும். இது லாஜிஸ்டிக்ஸ், விவசாயம், ஆய்வு மற்றும் நுகர்வோர் ரோபாட்டிக்ஸ் ஆகிய துறைகளில் தன்னாட்சி தீர்வுகளை (autonomous solutions) விரைவுபடுத்தக்கூடும்.

சாத்தியமான தடைகள்

எட்ஜ் (edge) சாதனங்களில் ஜெனரேட்டிவ் மாடல்களை இயக்குவதில் சில சமரசங்கள் தேவைப்படலாம். பிரத்யேக ஆக்சிலரேட்டர்கள் (accelerators) இருந்தாலும், ஒரு கிரெடிட் கார்டு அளவிலான போர்டால் சர்வர்-வகுப்பு GPU-க்கு இணைய முடியாது. டெவலப்பர்கள் மாடல்களைத் துத்திகள் (prune) செய்யவோ அல்லது குவாண்டிஸ் (quantize) செய்யவோ வேண்டியிருக்கும், அல்லது வேகத்திற்காகத் தெளிவுத்திறனை (resolution) விட்டுக்கொடுக்க வேண்டியிருக்கும், அல்லது குறைந்த வெளியீட்டுத் துல்லியத்தை (output fidelity) ஏற்க வேண்டியிருக்கும். அதிகப்படியான இன்ஃபரன்ஸ் வேலைப்பளுவைச் செயல்படுத்தும்போது, ஒரு ட்ரோன் எவ்வளவு நேரம் காற்றில் பறக்க முடியும் என்பதையும் மின்சாரக் கட்டுப்பாடுகள் பாதிக்கலாம்.

மற்றொரு சவால் மென்பொருள் கருவிகளில் (software tooling) உள்ளது. NVIDIA, Jetson சாதனங்களுக்கான மென்பொருள் தொகுப்பை வழங்குகிறது, ஆனால் வரையறுக்கப்பட்ட வன்பொருளில் (constrained hardware) ஜெனரேட்டிவ் மாடல்களைப் பயிற்றுவிப்பதற்கும் பயன்படுத்துவதற்கும் தேவையான சூழல் (ecosystem) இன்னும் வளர்ச்சியடைந்து வருகிறது. கிளவுட் அளவிலான வன்பொருளுக்காக உருவாக்கப்பட்ட மாடல்களை, இந்தச் சாதனங்களுக்கு ஏற்ப மாற்றியமைக்க குழுக்கள் பெரும் முயற்சியைச் செலவிட வேண்டியிருக்கும்.

அடுத்து கவனிக்க வேண்டியவை

Orin Nano 2-க்கான உண்மையான சோதனை, வணிக ரீதியான தயாரிப்புகளில் அது எவ்வளவு பயன்படுத்தப்படுகிறது என்பதில் தான் உள்ளது. ரோபாட்டிக்ஸ் ஸ்டார்ட்அப்கள், ட்ரோன் உற்பத்தியாளர்கள் அல்லது OEMs ஆகியவற்றின் ஆரம்பக்கட்ட களச் சோதனைகள், அதன் செயல்திறன் மற்றும் விலை விகிதம் (performance-price sweet spot) எதிர்பார்ப்புகளைப் பூர்த்தி செய்கிறதா என்பதை வெளிப்படுத்தும். மற்ற சிப் தயாரிப்பாளர்களிடமிருந்து வரும் இணையான வளர்ச்சிகள், மின் திறன் (power efficiency) மற்றும் மென்பொருள் ஆதரவு ஆகியவற்றில் விரைவாக முன்னேற NVIDIA-க்கு அழுத்தம் கொடுக்கக்கூடும்.

பாதுகாப்பு சார்ந்த முடிவுகளை எடுக்கும் சாதனத்தில் உள்ள AI-ஐ ஒழுங்குமுறை அமைப்புகள் (regulators) கண்காணிக்கத் தொடங்கலாம். மனிதத் தலையீடு இன்றி அதிக தன்னாட்சி அமைப்புகள் இயங்கத் தொடங்கும் போது, சரிபார்ப்பு (verification), உறுதிப்படுத்துதல் (validation) மற்றும் விளக்கத்தன்மை (explainability) ஆகியவற்றிற்கான தரநிலைகள், உற்பத்தியாளர்கள் எட்ஜ் மாடல்களை எவ்வாறு கட்டமைக்கிறார்கள் என்பதைத் தீர்மானிக்கக்கூடும்.

சுருக்கம்

மலிவான, குறைந்த மின்சாரத்தைப் பயன்படுத்தும் போர்டில் ஜெனரேட்டிவ் AI-ஐ இணைப்பதன் மூலம், NVIDIA "கிளவுட்-மட்டும் அறிவு" (cloud-only intelligence) என்பதை, தேவைப்படும் ரோபோட்டிற்குள்ளேயே அமரக்கூடிய ஒரு வன்பொருள் அம்சமாக மாற்றுகிறது. இந்த மாற்றம் மேம்பட்ட உணர்தல் (perception) மற்றும் முடிவெடுக்கும் திறனைப் பரவலாக்கக்கூடும் (democratize), ஆனால் அதன் வெற்றி என்பது, டெவலப்பர்கள் கனமான மாடல்களை எட்ஜ் மாட்யூலின் குறைந்த வளங்களுக்கு ஏற்ப எவ்வளவு சிறப்பாக மாற்றியமைக்கிறார்கள் என்பதில் தான் உள்ளது. இந்தச் சமநிலை பேணப்பட்டால், அடுத்த தலைமுறை ட்ரோன்கள், கிடங்கு ரோபோக்கள் (warehouse bots) மற்றும் ஆய்வு கேமராக்கள் அவை நகரும் வேகத்திற்கு இணையாகச் சிந்திக்கக்கூடும்.